Meta pod pritiskom zbog oglasa sa AI sadržajem koji seksualno zloupotrebljava decu

Izveštaj je objavljen dva meseca nakon što je indijska vlada naložila Meti da sa Instagrama ukloni sve oglase i sadržaje koji promovišu seksualno zlostavljanje dece. Naredba je usledila nakon istrageBBC-ja, koja je otkrila da su se takvi plaćeni oglasi prikazivali korisnicima u Indiji.

TTP, organizacija sa sedištem u Vašingtonu, navodi da je pronašla ukupno 332 sporna oglasa na Facebooku i Instagramu, od kojih se čak 274 pojavilo tokom avgusta ove godine.

Meta je, odgovarajući na nalaze, saopštila da ne dozvoljava aplikacije za digitalno „skidanje“ osoba niti bilo koji oblik seksualne eksploatacije dece, bez obzira na to da li je sadržaj stvaran ili napravljen pomoću veštačke inteligencije. Kompanija tvrdi da počinioci stalno menjaju metode kako bi izbegli sisteme za otkrivanje i da zbog toga neprestano unapređuje svoje mehanizme zaštite.

Oglasi nastavljeni i posle upozorenja

TTP navodi da su u pojedinim oglasima korišćene fotografije stvarne dece, uključujući i jednog člana evropske kraljevske porodice, koje su zatim manipulisane pomoću veštačke inteligencije. Više od deset spornih oglasa pojavilo se na Metinim platformama čak i nakon što je organizacija upozorila kompaniju na problem.

Od ukupno 332 oglasa, 84 su prikazivana u Indiji, a čak 78 je objavljeno nakon što je indijska vlada naredila uklanjanje takvog sadržaja i održala sastanak sa visokim predstavnicima Mete.

Nakon istrage BBC-ja, slučaj su počele da razmatraju i indijske institucije, među kojima su Nacionalna komisija za zaštitu prava deteta i Nacionalna komisija za ljudska prava.

Distribucija materijala koji prikazuje seksualno zlostavljanje dece predstavlja krivično delo u Indiji, dok i sama pravila Mete zabranjuju oglase koji seksualno iskorišćavaju ili ugrožavaju decu.

Meta navodi da slučajeve očigledne seksualne eksploatacije dece prijavljuje američkom Nacionalnom centru za nestalu i eksploatisanu decu (NCMEC), koji predstavlja centralizovani globalni sistem za prijavljivanje seksualne eksploatacije dece na internetu.

Međutim, Bhuwan Ribhu, osnivač mreže Just Rights for Children, koja okuplja više od 250 organizacija za zaštitu dece u Indiji, smatra da to nije dovoljno. Organizacija je podnela zahtev Vrhovnom sudu Indije, pozivajući se na nalaze BBC-ja i tražeći obavezno prijavljivanje i identifikovanje osoba koje promovišu ovakav sadržaj.

Ribhu tvrdi da društvene mreže krše indijske propise time što sadržaje seksualnog zlostavljanja dece ne prijavljuju nadležnim organima u Indiji, kako nalažu tamošnji zakoni o zaštiti dece.

Veštačka inteligencija korišćena za manipulaciju fotografijama dece

TTP je sporne oglase pronašao u SAD, Velikoj Britaniji, Evropskoj uniji, Australiji i Indiji i navodi da je svih 332 slučaja prijavio NCMEC-u.

Prema njihovim nalazima, gotovo svi oglasi počinju fotografijom deteta, koja se zatim pomoću veštačke inteligencije pretvara u eksplicitno seksualizovan sadržaj.

TTP navodi i primer jednog oglasa prikazivanog u Indiji u kojem je fotografija devojčice uz pomoć AI animirana tako da prikazuje seksualni čin. BBC nije nezavisno video niti potvrdio taj konkretan oglas. Prema TTP-u, isti oglas je tokom dve nedelje u avgustu objavilo više od 50 različitih naloga u Indiji.

Meta u velikom broju slučajeva nije prepoznala problem

Posebno zabrinjavajući deo izveštaja odnosi se na način na koji Metin sistem reaguje na prijave korisnika.

TTP je pokušao da prijavi sporne oglase koristeći Metin sistem za prijavljivanje. Od 84 oglasa prikazana u Indiji uspeli su da prijave 55, jer Meta omogućava prijavljivanje oglasa samo dok su aktivni.

Za čak 43 oglasa dobili su odgovor da sadržaj ne krši Metine standarde oglašavanja. Za 11 im je rečeno da su već uklonjeni, dok za jedan nisu dobili odgovor.

Nakon što je BBC kontaktirao Metu, kompanija je saopštila da ima sisteme koji automatski blokiraju nedozvoljene oglase, kao i dodatni nadzor za slučajeve koje prvi sistem ne prepozna. Meta tvrdi da je veliki broj prijavljenih oglasa već bio uklonjen, da je većina imala manje od 200 prikaza i da je ukupna potrošnja na njihovo oglašavanje bila manja od 5.000 dolara.

TTP navodi da je Meta uklonila sve prijavljene oglase nakon što joj se organizacija direktno obratila.

Slična situacija dogodila se i tokom istrage BBC-ja. Kada je BBC jedan sporni oglas prijavio putem Instagramovog standardnog sistema, on nije odmah uklonjen. Tek nakon direktnog obraćanja kompaniji, Meta je saopštila da je uklonila više oglasa, suspendovala naloge i blokirala internet adrese povezane sa sadržajem koji krši njena pravila.

Oglasi vodili ka AI aplikacijama

Velika većina od 332 oglasa vodila je korisnike ka aplikacijama za generisanje AI fotografija i video-snimaka, uglavnom proizvodima kineskih kompanija. TTP smatra da način na koji su te aplikacije reklamirane sugeriše da bi mogle biti korišćene za pravljenje ili gledanje materijala seksualnog zlostavljanja dece.

Meta, inače, zvanično zabranjuje promociju takozvanih „nudify“ aplikacija, koje pomoću veštačke inteligencije stvaraju lažne nage ili seksualno eksplicitne fotografije osoba bez njihovog pristanka.

Šikha Goel, direktorka Biroa za sajber bezbednost indijske države Telangana, rekla je za BBC da jedan od najvećih problema predstavlja lakoća kojom korisnici prelaze sa jedne platforme na drugu, zbog čega ih je teško identifikovati i procesuirati.

Oglasi koje je ranije otkrio BBC vodili su korisnike i na aplikaciju Telegram, gde je takav materijal mogao da se kupi za samo 99 rupija, odnosno nešto više od jednog dolara. Telegram je tada saopštio da koristi automatizovanu i ljudsku moderaciju i da je gotovo u potpunosti eliminisao javno širenje takvog sadržaja na svojoj platformi.

Sporni oglasi prošli Metinu kontrolu

Oglasi na Facebooku i Instagramu objavljuju se tek nakon što ih odobre Metini sistemi za moderaciju. Provera se prvenstveno oslanja na automatizaciju i analizira fotografije, video, tekst, zvuk, ciljnu publiku oglasa i linkove ka kojima korisnici bivaju usmereni.

Meta je ranije priznala da „nijedan sistem nije savršen“ i da kriminalci uporno pokušavaju da pronađu načine da zloupotrebe njene platforme i sisteme oglašavanja.

TTP je, međutim, utvrdio i da su pojedine sporne oglase postavljali Metini partnerski oglašivači u Kini, takozvani „reselleri“, preko kojih se na Facebook i Instagram plasiraju kineski oglasi vredni milijarde dolara. Ti partneri nisu odgovorili na pitanja TTP-a.

Prema izveštaju, problem nije prestao ni nakon što je Meta obaveštena o nalazima. TTP navodi da su se novi oglasi nastavili pojavljivati, uključujući 17 oglasa zabeleženih 1. i 2. septembra, od kojih je 11 prikazivano u Indiji.