Ova aplikacija za obradu slika je osvojila sve društvene mreže, a sada je isplivala mračna istina o njoj

IT 12. dec 202216:56
Foto: Shutterstock

Ako ste u poslednje vreme ušli na bilo koju društvenu mrežu i primetili ljude kao vilinske princeze, anime likove ili nebeska bića, sve je to zbog Lense, aplikacije koja koristi veštačku inteligenciju za prikazivanje digitalnih portreta na osnovu fotografija koje korisnici pošalju.

Lensini stilizovani portreti su osvojili internet, ali su takođe našli na udaru žustrih kritika žena, digitalnih umetnika, stručnjaka za privatnost i tamnoputih ljudi koji su primetili da aplikacija izbljuje njihovu kožu. Pored svega toga, uslovi korišćenja aplikacije joj dozvoljavaju zloupotrebu vaših podataka i slika u „neograničenom vremenskom roku“.

Šta je Lensa?

Slike koje se provlače na mrežama su napravljene uz pomoć Lensine funkcije „Magični avatari“.

Lensa preporučuje korisnicima da pošalju 10-20 selfija za najbolje rezultate. Slike treba da budu krupni plan lica sa različitim pozadinama, facijalnim ekspresijama i uglovima. Lensa takođe navodi da je aplikacija namenjena samo korisnicima starijim od 13 godina.

Aplikaciji je potrebno oko 20 minuta da vrati avatare, koji su bili podeljeni u 10 kategorija: fantazija, vilinska princeza, fokus, pop, stilski, anime, svetlo, kavai, prelivi i kosmički.

Lensa objašnjava u svojoj politici privatnosti da koristi TrueDepth API tehnologiju, a fotografije koje korisnici šalju aplikaciji se koriste „da obučavaju algoritme kako bi dali još bolje rezultate”.

Iako ‘Magični avatari’ mogu izgledati kul, postoje neki nedostaci sakriveni u uslovima korišćenja aplikacije koje mnogi korisnici prihvataju bez čitanja.

Nakon otpremanja selfija u aplikaciju, Lensa AI dobija dozvolu da ih „koristi“ i „distribuira“ na neodređeno vreme – i to bez „ikakve dodatne nadoknade“.

Mizogeni algoritam

Seksualizacija je jedan od izazova sa kojim su se susrele brojne žene u aplikaciji.

Iako su na svim fotografijama bile potpune obučene sa licem u krupnom kadru, aplikacija se vraćala rezultate sa implicitnom ili stvarnom golotinjom.

“Na jednoj od slika, izgledalo je kao da je verzija mog lica na golom telu. Na nekoliko drugih fotografija izgledalo je kao da sam gola, ali sa ćebetom koje planski prekriva određene delove tela. Na mnogim slikama, čak i one na kojima sam potpuno obučena, imale su seksualizovan izraz lica, veliki dekolte i oskudnu odeću koja nije odgovarala fotografijama koje sam dala aplikaciji, objašnjava za Si-En-En Olivija Snoun, istraživačica u UCLA-inom centru za internet istraživanja.

Ovo predstavlja problem kada se uzmu u obzir uslovi korišćenja koji vlasniku dozvoljavaju da fotografije koristi i distribuira bez naknade i ograničenja.

„Ovo me je baš iznenadilo, ali nisam jedina žena koja je to doživela“, objašnjava Snou. Ona kaže za Si-En-En da je aplikacija vraćala golotinju u njenom liku čak i kada je slala svoje slike iz detinjstva, prema iskustvu koje je dokumentovala za “Wired”.

Snou je rekla da bi tehnologija veštačke inteligencije poput one koju Lensa koristi mogla da se zloupotrebi za generisanje osvetničke fotografije, odnosno pravljenje obnaženih fotografija sa nečijim likom bez njegovog pristanka.

“Ovo je rezultat potpunog nedostatka moderacije u aplikaciji”, smatra Snou.

Drugi korisnici su dokumentovali različite oblike pristrasnosti na slikama koje Lensa pravi, poput tamnoputih korisnika koji su „izbeljeni“ i prikazani kao mnogo bleđi nego što zapravo jesu.

Slično tome, Obri Gordon, književnica i aktivistkinja za prava ljudi sa prekomernom težinom, napisala je na svom verifikovanom Instagramu da je aplikacija izbacila slike na Kojima je izgledala znatno mršavije nego što zapravo jeste.

„Lensa zaista daje sve od sebe da bi od vas napravila mršaviju osobu“, napisala je u natpisu.

Lensa nije odgovorila na zahtev Si-En-En-a za komentar.

Umetnici besni

Lensina tehnologija se oslanja na model učenja pod nazivom “Stejbl difjužn”. Ovakav model veštačke inteliegncije koristi ogromnu mrežu digitalne umetnosti preuzete sa interneta, iz baze podataka pod nazivom LAION-5B, za obuku svoje neuronske mreže.

Ono što je posebno razbesnelo umetnike je činjenica da ne mogu sami da biraju da li će njihova umetnost biti uključena u skup podataka koji obučavaju algoritam ove aplikacije.

Mnogi umetnici kažu da bi ovakve aplikacije mogle da dokrajče digitalnu umetnost jer umetnici ne mogu da se takmiče sa niskim cenama i brzinom kojom veštačka inteliegncija pravi digitalin portret.

„Dok i ljudi i AI uče o umetničkim stilovima na slične načine, postoje neke fundamentalne razlike: AI je sposoban da brzo analizira i uči iz velikih skupova podataka, ali nema isti nivo pažnje i uvažavanja umetnosti, kao ljudsko biće“, napisala je kompanija na Tviteru 6. decembra.

(Izvori: Si-En-En, Volstrit Žurnal, Dejli Mejl)

***

BONUS VIDEO: Građani o korišćenju programa za obradu fotografija
Tagovi

Koje je tvoje mišljenje o ovoj temi?

Ostavi prvi komentar

Pošalji komentar Pročitaj komentare (0)