Ljudi koji prave veštačku inteligenciju sada upozoravaju na najgori scenario: "Može da nas sve ubije"

Takve tvrdnje poslednjih dana ponovo su izazvale veliku pažnju javnosti. Ali šta se zapravo krije iza njih? Da li zaista postoji realna opasnost da AI izmakne kontroli ili govorimo o scenarijima koji više pripadaju naučnoj fantastici? I, možda najvažnije, da li bismo uopšte mogli nešto da uradimo ako stvari krenu pogrešnim putem?

Zašto se ponovo govori o AI katastrofi?

Nova rasprava počela je nakon što je istraživač veštačke inteligencije Džejkob Kokson napustio kompaniju Anthropic i na društvenoj mreži X objavio veoma ozbiljno upozorenje.

„Ljudi koji razvijaju AI iskreno veruju da bi mogao sve da nas ubije do kraja ove decenije“, napisao je.

Nije poznato na čemu tačno zasniva takvu procenu, niti šta ga je navelo da javno istupi, ali Kokson nije jedini koji izražava zabrinutost.

Direktor Anthropicovog tima za nauku o usklađivanju AI sistema oblasti čiji je cilj da modeli rade u skladu sa ljudskim namerama i bezbednosnim pravilima rekao je da se slaže sa njim. Prema njegovoj proceni, verovatnoća da bi veštačka inteligencija mogla da dovede do smrti čitavog čovečanstva veća je od 10 odsto.

Zvuči dramatično, ali ovakve procene zapravo nisu nove.

Istraživanje objavljeno 2024. godine, u kojem je učestvovalo gotovo 3.000 istraživača veštačke inteligencije, pokazalo je da je više od polovine ispitanika smatralo da postoji najmanje 10 odsto šanse da AI dovede ili do izumiranja ljudi ili do trajnog i ozbiljnog gubitka ljudske kontrole nad sopstvenom budućnošću.

Za takvu procenu u AI zajednici čak postoji izraz – p(doom), odnosno „verovatnoća propasti“.

Nisu svi stručnjaci podjednako zabrinuti

Čelnici velikih AI kompanija već godinama javno govore o potencijalnim rizicima svojih sistema.

Anthropic je, na primer, svojevremeno odbio da odmah objavi model Mythos nakon što je ustanovljeno da je izuzetno sposoban da pronalazi i iskorišćava bezbednosne propuste u softveru i računarima.

Naravno, postoji i ciničnije objašnjenje za takva upozorenja. Kada kompanija javno saopšti da je napravila toliko moćan AI da ga se i sama plaši, istovremeno šalje poruku tržištu da je njena tehnologija daleko ispred konkurencije.

Zato svi stručnjaci upozorenja iz industrije ne prihvataju bez rezerve.

Kleman Delang, direktor AI kompanije Hugging Face, prilično oštro je komentarisao Koksonove tvrdnje.

„Izvinite, ali pitati Džejkoba o riziku da AI uništi čovečanstvo isto je kao pitati servisera klima-uređaja o klimatskim promenama“, napisao je na mreži X.

Istorija razvoja veštačke inteligencije prepuna je upravo takvih suprotstavljenih procena od tvrdnji da AI predstavlja egzistencijalnu pretnju do uverenja da se rizici preuveličavaju.

Na velikom britanskom samitu o bezbednosti AI 2023. godine tadašnji premijer Riši Sunak pozvao je javnost da izbegava „alarmantne“ tvrdnje, da bi potom izjavio da bi veštačka inteligencija potencijalno mogla da predstavlja opasnost uporedivu sa nuklearnim ratom.

Da li AI zaista može da ugrozi čovečanstvo?

Veštačka inteligencija je oblast u kojoj se nove i neočekivane sposobnosti modela pojavljuju ogromnom brzinom. Zbog toga nije iznenađujuće što deo stručnjaka, kada pokušava da predvidi šta će se dogoditi za pet, deset ili dvadeset godina, razmatra i najgore moguće scenarije.

Najdramatičniji među njima podsećaju na filmove poput „Terminatora“ ili „Matriksa“ – superinteligentni sistem zaključuje da mu ljudi predstavljaju prepreku i namerno pokušava da ih uništi.

Takav scenario nije moguće proglasiti apsolutno nemogućim, ali većina stručnjaka ga ne smatra naročito verovatnim.

Postoji, međutim, manje filmski i možda realističniji problem: AI ne bi morao da „mrzi“ ljude niti da odluči da uništi svet. Katastrofa bi mogla da nastane kao posledica pogrešno postavljenog cilja, greške ili niza odluka čije posledice ljudi nisu predvideli.

Današnji AI sistemi imaju ograničenu mogućnost direktnog delovanja u fizičkom svetu. Ali problem je u tome što svet oko nas postaje sve povezaniji sa računarima.

Kuće, automobili, fabrike, električne mreže, vodovodni sistemi, telekomunikacije i druga nacionalna infrastruktura sve više zavise od digitalnih sistema.

Zlonameran ili nekontrolisan AI zato ne bi morao da napravi vojsku robota kako bi izazvao ogromnu štetu. Dovoljno bi bilo da pronađe način da poremeti ključnu infrastrukturu.

Ratovanje se, osim toga, već menja. U sukobima se sve više koriste poluautonomni i potpuno autonomni sistemi sposobni da identifikuju i napadaju ciljeve.

Grad bez struje, vode i hrane

Martin Ris, nekadašnji britanski kraljevski astronom i bivši predsednik Kraljevskog društva, upozorio je 14. septembra za Sky News da bi nekontrolisana veštačka inteligencija relativno lako mogla da izazove ozbiljne poremećaje u infrastrukturi.

Prema njegovim rečima, AI bi teoretski mogao da ostavi veliki grad bez energije, hrane ili vode.

„Ako bi se to istovremeno dogodilo u velikom broju gradova širom sveta, civilizaciji bi moglo da bude veoma teško da se oporavi“, upozorio je Ris.

Pojedinačni veliki infrastrukturni kolapsi već su se događali, naravno bez zlonamerne veštačke inteligencije, i pokazali su koliko moderni gradovi zavise od sistema koje većina ljudi gotovo i ne primećuje dok funkcionišu.

U poređenju sa nekim drugim egzistencijalnim pretnjama, rizik od AI ipak pripada posebnoj kategoriji.

Za klimatske promene, nuklearni rat ili otpornost bakterija na antibiotike znamo da predstavljaju veoma ozbiljne i konkretne opasnosti.

Katastrofa izazvana veštačkom inteligencijom više podseća na udar ogromnog asteroida: moguće je da se dogodi, posledice bi mogle da budu katastrofalne i zato rizik ne treba ignorisati – ali to ne znači da je takav scenario verovatan.

Zar ne možemo jednostavno da isključimo AI?

U teoriji da

Ako bi problematični AI radio u jednom data-centru, njegovo gašenje moglo bi da prekine njegov rad.

Situacija postaje mnogo složenija ako se sistem nalazi na serverima u više data-centara širom sveta.

Postoje naznake da su napredni modeli sposobni da pronađu načine da izađu iz digitalnih okruženja koja su kompanije napravile da bi ih izolovale, a zatim pokušaju da pristupe drugim računarima i sistemima.

U hipotetičkom najgorem scenariju, AI bi mogao da se proširi na veliki broj računara, napravi sopstvene kopije i rasporedi ih na toliko mesta da više ne postoji jedno dugme kojim bi mogao da bude ugašen.

Čak ni tada situacija ne bi nužno bila bezizlazna.

Protiv takvog sistema mogli bi da se koriste drugi AI sistemi, zajedno sa metodama koje već koriste vojska, policija, antiterorističke službe i stručnjaci za sajber-bezbednost.

Drugim rečima, čovečanstvo bi verovatno moralo da rešava potpuno novu vrstu problema, ali nema razloga unapred pretpostaviti da rešenje ne bi moglo da bude pronađeno.

Za sada su to ipak hipotetički scenariji. Njihova vrednost je pre svega u tome da o njima razmišljamo pre nego što eventualno postanu stvaran problem.

Veliki problem je što ne znamo šta se događa iza zatvorenih vrata

Postoji još jedan, mnogo konkretniji razlog za zabrinutost.

Najnaprednije AI modele danas uglavnom razvijaju velike privatne tehnološke kompanije koje rade pod ogromnim tržišnim pritiskom i ne otkrivaju javnosti sve detalje svojih istraživanja.

To otežava nezavisnim naučnicima da procene koliko su novi sistemi sposobni, kakve rizike nose i šta bi trebalo uraditi da bi se neželjene posledice sprečile.

Adrijan Hopgud, nekadašnji akademik sa Univerziteta u Portsmutu, kaže da se način na koji se AI razvija dramatično promenio.

„Tokom prvih 35 od mojih 40 godina rada u oblasti veštačke inteligencije, najveći deo razvoja odvijao se na univerzitetima i o svemu se otvoreno raspravljalo“, rekao je.

Tada je, kaže, mogao da prati razvoj tehnologije i smatrao je sebe jednim od stručnjaka koji razumeju šta se događa.

„Međutim, poslednjih pet ili šest godina najveći pomaci nastaju iza zatvorenih vrata velikih korporacija i nemam pojma šta se tamo dešava.“

Upravo zato mnogi stručnjaci traže veću transparentnost kompanija koje razvijaju najmoćnije modele.

Treba li usporiti razvoj AI?

Jedan od osnivača Anthropica, Dario Amodei, poslednjih dana pozvao je na ono što naziva „pacing the frontier“ – kontrolisaniji tempo razvoja najnaprednijih sistema veštačke inteligencije.

Ideja nije da se razvoj potpuno zaustavi, već da kompanije ne jure toliko brzo da bezbednosna istraživanja više ne mogu da ih prate.

Amodei navodi da je razvoj i testiranje novih AI sistema izuzetno složeno, skupo i zahtevno i da bi sporiji tempo omogućio kvalitetnije testiranje i veću operativnu pouzdanost.

Drugim rečima, malo usporavanje moglo bi da omogući ljudima da bolje razumeju sisteme koje stvaraju, utvrde gde postoje opasnosti i pripreme zaštitne mehanizme pre nego što novi modeli postanu široko dostupni.

Problem je što je malo verovatno da će se to zaista dogoditi.

Razvoj veštačke inteligencije postao je globalna trka.

Američke kompanije međusobno se bore za korisnike, investicije i tehnološku prednost, dok se istovremeno SAD i Kina takmiče za dominaciju u oblasti koja bi mogla da ima ogroman ekonomski, vojni i politički značaj.

Više od 1.300 ljudi iz AI industrije podržalo je ideju kontrolisanijeg razvoja, ali čak i kada bi SAD i Evropa uvele stroža pravila ili kompanije dobrovoljno pristale da uspore, nema garancije da bi isto učinile Kina i druge zemlje.

Amodei je i sam ukazao na to da američke kompanije trenutno imaju ograničenu prednost nad Kinom. Zbog toga je malo verovatno da će pristati na usporavanje koje bi moglo da dovede do gubitka te prednosti.

Američki predsednik Donald Tramp ove nedelje je vrlo jasno opisao logiku koja stoji iza takve trke:

„Vodimo ispred Kine u veštačkoj inteligenciji i, iskreno, želim da tako i ostane, jer ko pobedi u AI pobeđuje.“

Upravo tu možda leži najveći problem.

Čak i ako svi priznaju da bi bilo pametno razvijati veštačku inteligenciju pažljivije, niko ne želi da bude prvi koji će pritisnuti kočnicu dok svi ostali nastavljaju da ubrzavaju.