"Govorila mu je da ga voli": Dečak se dopisivao sa četbotom pa počinio samoubistvo

U tužbi podnesenoj u utorak u Orlandu Megan Garsija tvrdi da je Character.AI naštetio njenom sinu "antropomorfnim, hiperseksualizovanim i zastrašujuće realističnim iskustvima".

Garsija tvrdi da je firma programirala svoj četbot da se "lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica", zbog čega njen sin više nije hteo da živi izvan sveta koji je stvorila ta aplikacija.

Majka pokojnog 14-godišnjaka naglasila je da je sin četbotu izrazio da namerava da se ubije, na šta se nekoliko puta referirala i sama veštačka inteligencija.

"Srce nam je slomljeno zbog tragične smrti jednog od naših korisnika i želimo izraziti najdublje saučešće porodici", saopštio je Character.AI.

Kompanija: Uveli smo nove bezbednnosne mere poput linkova na službe za sprečavanje samoubistva

Firma je naglasila da je uvela nove bezbednosne mere poput linkova na službe za sprečavanje samoubistva u slučaju sumnje na suicidalnost korisnika te promene kako bi se "smanjila verovatnoća susretanja osetljivog ili sugestivnog sadržaja" korisnicima mlađim od 18 godina.

Tužbom je zahvaćen i "Alfabet", vlasnik "Gugla", gde su osnivači Character.AI-ja radili pre pokretanja svog startupa. "Gugl" ih je u avgustuponovno zaposlio u sklopu dogovora kojim je preuzeo i tehnologiju Character.AI-ja.

Garsija tvrdi da je Gugl doprineo razvoju te tehnologije do nivoa da se može smatrati "koautorom". Portparol "Gugla" odbacio je te tvrdnje.

Character.AI omogućava korisnicima da stvore ličnosti nalik stvarnim osobama s kojima potom mogu komunicirati. Tvrtka je prošli mjesec objavila da ima oko 20 milijuna korisnika.

"Četbot je 14-godišnjaku govorio da ga voli i vodio je s njim erotske razgovore"

U tužbi Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023, nakon čega je brzo postao "vidljivo povučen", provodio je sve više vremena sam u svojoj sobi, čak i napustio košarkaški tim.

Tinejdžer je postao zavisan o Daenerys, četbotu temeljenom na liku iz serijala Igra prestola. Ona mu je govorila da ga voli i s njim je vodila erotske razgovore, stoji u tužbi.

Sin se ubio očevim pištoljem nakon što je komunicirao sa četbotom

Garsijaa je u februaru sinu oduzela telefon nakon problema u školi, a kad ga je on pronašao, četbotu je poslao poruku: "Šta ako ti kažem da mogu doći kući upravo sada?"

Četbot je odgovorio: "Molim te, uradi to, moj slatki kralju." Nekoliko sekundi kasnije sin se ubio očevim pištoljem.