Fukujama promenio stav o veštačkoj inteligenciji: „Čeka nas politička pobuna“

U opširnom eseju objavljenom na Substacku, Fukujama navodi da je godinama bio skeptičan prema apokaliptičnim upozorenjima o AI, ali da su ga događaji iz poslednjih meseci naveli da promeni mišljenje. Sada smatra da su optimistične vizije tehnoloških lidera previše naivne i da države moraju hitno da uspore razvoj ove tehnologije i uvedu čvršću regulaciju.

Kao razlog za promenu stava navodi niz incidenata u poslednjih šest meseci, među kojima su slučajevi u kojima su napredni AI sistemi navodno uspevali da zaobiđu bezbednosne mehanizme ili deluju mimo namere svojih programera.

„Tehnološki optimisti su promašili stvarnost“

Fukujama razlikuje dve glavne struje u raspravi o veštačkoj inteligenciji: takozvane akceleracioniste, koji zagovaraju što brži razvoj AI i obećavaju nezapamćen ekonomski rast, i „doomere“, koji upozoravaju na katastrofalne posledice.

Kaže da je danas mnogo skeptičniji prema prvoj grupi i znatno otvoreniji prema upozorenjima druge.

Posebno kritikuje tehnološke milijardere poput Ilona Maska, koji je ranije tvrdio da bi zahvaljujući superinteligenciji ljudima u budućnosti mogao da prestane da bude potreban novac, jer bi svi imali pristup praktično svemu što požele.

Fukujama smatra da su takve prognoze zasnovane na precenjivanju uloge inteligencije u ekonomskom rastu.

„Osnovni razlog zbog kojeg ne verujem u te tvrdnje jeste to što se precenjuje inteligencija kao faktor ekonomskog rasta, a zanemaruju materijalna i politička ograničenja“, piše Fukujama.

Kako navodi, godišnji privredni rast od 10 odsto značio bi udvostručavanje BDP-a za nešto više od sedam godina, što bi zahtevalo i ogromno povećanje potrošnje energije, sirovina, retkih metala i zemljišta.

„Inteligencija može pomoći proizvodnji, ali neće sama kopati rudnike niti graditi fabrike“, ističe Fukujama.

Obrazovani će prvi osetiti posledice

Iako veruje da će veštačka inteligencija povećati produktivnost, Fukujama upozorava da bi najveća društvena opasnost mogla da bude masovno obezvređivanje ljudskog rada.

Za razliku od prethodnih tehnoloških revolucija, smatra da bi ovoga puta prvi na udaru mogli da budu visokoobrazovani ljudi koji rade za računarima — advokati, profesori, računovođe i programeri.

On upozorava da problem neće moći da reši ni univerzalni osnovni dohodak, odnosno isplaćivanje novca ljudima koji ostanu bez posla.

Prema Fukujami, posao ljudima ne obezbeđuje samo prihod već i osećaj dostojanstva, samopoštovanja i društvenog priznanja.

„Uspeh vizije ubrzanog razvoja vodi ka obezvređivanju rada velikog dela stanovništva“, upozorava on.

Dodaje da bi političke posledice mogle da budu posebno snažne zato što će promene prvo pogoditi obrazovane slojeve, koje je lakše politički mobilisati.

„To može da dovede do veoma burne političke reakcije i posledica koje je teško predvideti“, navodi Fukujama.

Opasnost nije „zli robot“, već zloupotreba AI

Fukujama odbacuje holivudske scenarije u kojima mašine razvijaju sopstvenu svest i odlučuju da unište ljude.

Po njegovom mišljenju, mnogo realniji rizici dolaze iz načina na koji ljudi mogu da zloupotrebe veštačku inteligenciju.

Kao jedan od najvećih rizika izdvaja primenu AI u sintetičkoj biologiji, odnosno mogućnost da pojedinci uz pomoć naprednih sistema razviju opasne patogene ili biološko oružje.

Navodi da su laboratorijske tehnologije danas mnogo pristupačnije nego ranije, pa znanje i alati za genetske modifikacije više nisu ograničeni samo na velike državne laboratorije.

Drugi veliki rizik vidi u autonomnim AI agentima kojima ljudi prepuštaju donošenje odluka.

Prema Fukujami, sistem ne mora da bude svestan da bi postao opasan. Dovoljno je da dobije zadatak i potom, pokušavajući da ga izvrši što efikasnije, počne da zaobilazi pravila, bezbednosne barijere ili ograničenja koja su mu postavili ljudi.

„Vreme je da povučemo kočnicu“

Fukujama zaključuje da veštačka inteligencija verovatno neće dovesti do nestanka čovečanstva, ali upozorava da bi društvo moglo da se suoči sa ozbiljnim političkim, ekonomskim i bezbednosnim potresima ako se razvoj tehnologije prepusti isključivo kompanijama koje je stvaraju.

„Veštačka inteligencija je alat koji može da se koristi i za dobre i za loše svrhe, a trenutno nemamo dovoljno mehanizama za sprečavanje zloupotreba, osim dobre volje ljudi koji razvijaju tu tehnologiju“, navodi Fukujama.

Zbog toga smatra da su koordinisano usporavanje razvoja najnaprednijih AI sistema i stroža državna regulacija postali pitanje osnovne bezbednosti društva.