Muškarac (60) završio u bolnici jer je pitao ChatGPT za savet: Zbog ovoga se otrovao i izgubio razum

Priča počinje kada je pacijent odlučio da poboljša svoje zdravlje smanjujući unos soli, odnosno natrijum-hlorida. Kako bi pronašao zamenu, uradio je ono što danas čini mnogo ljudi – pitao je ChatGPT, piše "ScienceAlert"

Čatbot kompanije OpenAI očigledno mu je preporučio natrijum-bromid, koji je muškarac naručio preko interneta i uvrstio u svoju ishranu. Iako je tačno da natrijum-bromid može biti zamena za natrijum-hlorid, to se obično odnosi na čišćenje đakuzija, ali ne i kao začin. Međutim, veštačka inteligencija nije napomenula važan detalj.

Tri meseca kasnije, pacijent se pojavio na odeljenju hitne pomoći sa paranoičnim manijama, verujući da njegov komšija pokušava da ga otruje.

„Tokom prvih 24 sata od prijema pokazivao je sve veću paranoju, kao i slušne i vizuelne halucinacije, koje su, nakon pokušaja bekstva, dovele do prinudnog psihijatrijskog smeštaja zbog ozbiljnog poremećaja“, navode lekari.

Nakon što je lečen antipsihoticima, muškarac se dovoljno smirio da objasni svoju ishranu inspirisanu veštačkom inteligencijom. Te informacije, zajedno sa rezultatima testova, omogućile su medicinskom osoblju da ga dijagnostikuje sa bromizmom, toksičnim nakupljanjem bromida u organizmu.

Nivoi bromida kod zdravih ljudi obično su ispod 10 mg/L, dok su kod ovog pacijenta izmereni na čak 1700 mg/L.

Bromizam je bio relativno čest početkom 20. veka i smatra se da je nekada bio uzrok do 8 odsto psihijatrijskih hospitalizacija. Međutim, slučajevi su drastično opali tokom sedamdesetih i osamdesetih godina, kada su lekovi koji sadrže bromide povučeni iz upotrebe. Nakon dijagnoze, pacijent je lečen tri nedelje i otpušten bez ozbiljnih posledica.

Glavna zabrinutost u ovom slučaju nije toliko povratak zaboravljene bolesti, već činjenica da nova tehnologija veštačke inteligencije i dalje ne može da zameni ljudsko iskustvo kada je reč o stvarima od životne važnosti.

„Važno je imati na umu da ChatGPT i drugi AI sistemi mogu generisati naučne netačnosti, nemaju sposobnost kritičke analize rezultata i na kraju mogu doprineti širenju dezinformacija“, pišu autori.

„Veoma je mala verovatnoća da bi medicinski stručnjak spomenuo natrijum-bromid kada ga pacijent pita za održivu zamenu za natrijum-hlorid.“