1
Ako ste u poslednje vreme ušli na bilo koju društvenu mrežu i primetili ljude kao vilinske princeze, anime likove ili nebeska bića, sve je to zbog Lense, aplikacije koja koristi veštačku inteligenciju za prikazivanje digitalnih portreta na osnovu fotografija koje korisnici pošalju.
Lensini stilizovani portreti su osvojili internet, ali su takođe našli na udaru žustrih kritika žena, digitalnih umetnika, stručnjaka za privatnost i tamnoputih ljudi koji su primetili da aplikacija izbljuje njihovu kožu. Pored svega toga, uslovi korišćenja aplikacije joj dozvoljavaju zloupotrebu vaših podataka i slika u „neograničenom vremenskom roku“.
Šta je Lensa?
Slike koje se provlače na mrežama su napravljene uz pomoć Lensine funkcije „Magični avatari“.
Lensa preporučuje korisnicima da pošalju 10-20 selfija za najbolje rezultate. Slike treba da budu krupni plan lica sa različitim pozadinama, facijalnim ekspresijama i uglovima. Lensa takođe navodi da je aplikacija namenjena samo korisnicima starijim od 13 godina.
Aplikaciji je potrebno oko 20 minuta da vrati avatare, koji su bili podeljeni u 10 kategorija: fantazija, vilinska princeza, fokus, pop, stilski, anime, svetlo, kavai, prelivi i kosmički.
Lensa objašnjava u svojoj politici privatnosti da koristi TrueDepth API tehnologiju, a fotografije koje korisnici šalju aplikaciji se koriste „da obučavaju algoritme kako bi dali još bolje rezultate”.
Not only does the #lensaai app rip off artists…but the fine print is terrifying. pic.twitter.com/L4d5FARrOa
— Grey DeLisle (@GreyDeLisle) December 5, 2022
Iako ‘Magični avatari’ mogu izgledati kul, postoje neki nedostaci sakriveni u uslovima korišćenja aplikacije koje mnogi korisnici prihvataju bez čitanja.
Nakon otpremanja selfija u aplikaciju, Lensa AI dobija dozvolu da ih „koristi“ i „distribuira“ na neodređeno vreme – i to bez „ikakve dodatne nadoknade“.
Seksualizacija je jedan od izazova sa kojim su se susrele brojne žene u aplikaciji.
Iako su na svim fotografijama bile potpune obučene sa licem u krupnom kadru, aplikacija se vraćala rezultate sa implicitnom ili stvarnom golotinjom.
Is it just me or are these AI selfie generator apps perpetuating misogyny? Here’s a few I got just based on my photos of my face. pic.twitter.com/rUtRVRtRvG
— Brandee Barker (@brandee) December 3, 2022
“Na jednoj od slika, izgledalo je kao da je verzija mog lica na golom telu. Na nekoliko drugih fotografija izgledalo je kao da sam gola, ali sa ćebetom koje planski prekriva određene delove tela. Na mnogim slikama, čak i one na kojima sam potpuno obučena, imale su seksualizovan izraz lica, veliki dekolte i oskudnu odeću koja nije odgovarala fotografijama koje sam dala aplikaciji, objašnjava za Si-En-En Olivija Snoun, istraživačica u UCLA-inom centru za internet istraživanja.
Ovo predstavlja problem kada se uzmu u obzir uslovi korišćenja koji vlasniku dozvoljavaju da fotografije koristi i distribuira bez naknade i ograničenja.
I like that the lensa app says absolutely no nudes and I don’t upload ANY pictures of me below the chest and they generate this one 😂. Which tbh, is my favorite one out of all of em. pic.twitter.com/vPM5VYraAh
— 🆂🆀🆄🅸🆁🆃🅻🅴🍥 (@VulcanBoobs) December 2, 2022
„Ovo me je baš iznenadilo, ali nisam jedina žena koja je to doživela“, objašnjava Snou. Ona kaže za Si-En-En da je aplikacija vraćala golotinju u njenom liku čak i kada je slala svoje slike iz detinjstva, prema iskustvu koje je dokumentovala za “Wired”.
Lmfao LITERALLY. pic.twitter.com/RQbjRSjv4q
— 🆂🆀🆄🅸🆁🆃🅻🅴🍥 (@VulcanBoobs) December 2, 2022
Snou je rekla da bi tehnologija veštačke inteligencije poput one koju Lensa koristi mogla da se zloupotrebi za generisanje osvetničke fotografije, odnosno pravljenje obnaženih fotografija sa nečijim likom bez njegovog pristanka.
“Ovo je rezultat potpunog nedostatka moderacije u aplikaciji”, smatra Snou.
not sure how they got my tiddies so accurate, i swear i didn't upload my nudes to lensa pic.twitter.com/A2bNrWByVe
— It's Yerrr Girl, Alyssa (@_trashbaby13) December 7, 2022
Drugi korisnici su dokumentovali različite oblike pristrasnosti na slikama koje Lensa pravi, poput tamnoputih korisnika koji su „izbeljeni“ i prikazani kao mnogo bleđi nego što zapravo jesu.
Slično tome, Obri Gordon, književnica i aktivistkinja za prava ljudi sa prekomernom težinom, napisala je na svom verifikovanom Instagramu da je aplikacija izbacila slike na Kojima je izgledala znatno mršavije nego što zapravo jeste.
„Lensa zaista daje sve od sebe da bi od vas napravila mršaviju osobu“, napisala je u natpisu.
Lleve la Moda lleve la Modaaa!! #lensaapp Cual se parece más a mi? 1 , 2 , 3 o 4 ? 💫🌬🌌🪐 pic.twitter.com/uIq9KPswcv
— Aynara Eder✨ (@aynara_eder) December 9, 2022
Lensa nije odgovorila na zahtev Si-En-En-a za komentar.
Lensina tehnologija se oslanja na model učenja pod nazivom “Stejbl difjužn”. Ovakav model veštačke inteliegncije koristi ogromnu mrežu digitalne umetnosti preuzete sa interneta, iz baze podataka pod nazivom LAION-5B, za obuku svoje neuronske mreže.
Ono što je posebno razbesnelo umetnike je činjenica da ne mogu sami da biraju da li će njihova umetnost biti uključena u skup podataka koji obučavaju algoritam ove aplikacije.
As someone who has researched and studied AI pretty extensively, I am here with my soapbox to ruin your day by talking about why you should delete LensaAI and stop blindly using image based AI generator apps. pic.twitter.com/5WCSQqJa3I
— 🧠 (@Melaninelevatin) December 8, 2022
Mnogi umetnici kažu da bi ovakve aplikacije mogle da dokrajče digitalnu umetnost jer umetnici ne mogu da se takmiče sa niskim cenama i brzinom kojom veštačka inteliegncija pravi digitalin portret.
„Dok i ljudi i AI uče o umetničkim stilovima na slične načine, postoje neke fundamentalne razlike: AI je sposoban da brzo analizira i uči iz velikih skupova podataka, ali nema isti nivo pažnje i uvažavanja umetnosti, kao ljudsko biće“, napisala je kompanija na Tviteru 6. decembra.
(Izvori: Si-En-En, Volstrit Žurnal, Dejli Mejl)
***
