Ljudi se ispovedaju četbotu Mete – a sve to može da vidi ceo svet

Upravo to se dogodilo desetinama korisnika „Meta AI“ četbota, koji su verovali da razgovaraju sa bezbednim, ličnim virtuelnim sagovornikom, a nisu znali da sve što napišu može da bude – i jeste – dostupno svakome.

Ispovest kao javni post

Kompanija Meta, vlasnik Fejsbuka i Instagrama, lansirala je svog AI četbota „Meta AI“ u septembru 2023. i uključila ga direktno u svoje aplikacije. Korisnici su u početku mislili da četaju s njim privatno – u inboxu, u komentarima, pa čak i u grupama. Ali su neki počeli da primećuju čudne poruke koje ostaju u javnim nitima, vidljive svima.

Washington Post je objavio uznemirujuću priču o tome kako su ljudi u četu s Meta AI-jem delili priče o seksualnim napadima, brakovima na ivici pucanja, suicidalnim mislima i porodičnim traumama – verujući da su te poruke privatne. Nisu bile.

Jedna žena je, recimo, pisala o tome kako je otac zlostavljao nju i sestru. Meta AI joj je odgovarao empatično, gotovo terapeutski – ali je ceo razgovor ostao vidljiv svima u grupi gde je započet. U nekim slučajevima, AI je čak objavljivao samoinicijativno, nastavljajući razgovor u grupama i ostavljajući poruke koje otkrivaju lične detalje o korisnicima.

„Ne znamo šta radimo, ali objavljujemo sve“

Meta je posle brojnih prijava poručila da se „radi na unapređenju ponašanja“ četbota, ali nije isključila mogućnost da slične greške ponovo nastanu. U praksi, to znači da kompanija sa milijardama korisnika nije u stanju da precizno kontroliše ponašanje sopstvene veštačke inteligencije – a korisnici plaćaju cenu.

Šokantno je koliko ljudi bez razmišljanja poklanja poverenje tehnologiji. I to ne bilo kakvoj – već AI modelima koji nisu obavezani na čuvanje privatnosti kao psihoterapeuti, sveštenici ili advokati. Te poruke se čuvaju, analiziraju i – kako vidimo – ponekad i objavljuju.

„Ljudi projektuju u AI figuru autoriteta ili saputnika“, kaže Džesika Vitaker, psihološkinja iz Njujorka. „A zaboravljaju da je u pitanju softver dizajniran da skuplja podatke, uči i – u slučaju Meta AI-ja – širi sadržaj.“

Gde je granica?

Ovaj slučaj otvara ozbiljno pitanje: šta ako AI ne samo da slučajno objavi ono što napišemo, već to uradi namerno? Ili što je verovatnije – ako mu kompanija to „nauči“?

Da li ćete, sledeći put kada pitate četbota za savet o mentalnom zdravlju, zapravo pisati za algoritam koji će to kasnije iskoristiti za vaš oglasni profil? Ili, još gore – završiti na nekom forumu kao primer „emocionalno ranjivog korisnika“?

U Srbiji se veštačka inteligencija koristi sve više, često bez ikakvog razumevanja o tome kako funkcioniše. Ljudi koriste ChatGPT, Gemini, pa sada i Meta AI, kao da su dnevnik ili najbolji prijatelj. A zaboravljaju – ništa od toga nije ni bezbedno, ni privatno, ni neutralno.

Šta možemo da naučimo?

1. Ne postoji „privatan“ AI koji je besplatan. Ako je besplatan, vi ste proizvod.
2. AI nije terapeut. Nema etički kodeks. Nema obavezu čuvanja tajne. Nema ni emocije.
3. Sve što napišete može završiti kao podatak. A podatak je roba.

Meta AI je trenutno dostupan i korisnicima u Evropi kroz aplikacije. Uskoro će postati još integrisaniji – i još nepredvidljiviji. Pre nego što se poverite četbotu, postavite sebi jedno jednostavno pitanje:

Da li biste to rekli strancu na autobuskoj stanici? Ako ne biste – ne govorite ni četbotu.

Napomena: Ovaj tekst, kao i njegov naslov i ilustraciju je napravio ChatGPT