Ovo više nije naučna fantastika: AI koji može da upadne u banke i vlade već postoji i to je problem svih nas

Prema navodima kompanije Anthropic, oni su nedeljama u tajnosti razvijali alat pod nazivom Claude Mythos Preview – veštačku inteligenciju koja bi, ako bi bila zloupotrebljena, mogla da preuzme kontrolu nad velikim delom svetskih računarskih sistema. Takav sistem mogao bi da upada u banke, krade državne tajne ili onesposobi ključnu infrastrukturu. Model je već pronašao hiljade ozbiljnih bezbednosnih rupa, uključujući propuste u svim glavnim operativnim sistemima i internet pretraživačima. Do sada su ovakve sposobnosti bile rezervisane samo za elitne hakerske timove pod pokroviteljstvom država poput SAD, Rusije i Kine – a sada ih ima privatna kompanija.

Anthropic je zvanično predstavio ovaj model, ali ga neće pustiti u javnost. Biće dostupan samo ograničenom krugu velikih tehnoloških firmi poput Applea, Microsofta, Googlea i Nvidije, kako bi se koristio za pronalaženje i ispravljanje bezbednosnih propusta. Kompanija tvrdi da bi javno objavljivanje bez dodatnih zaštita bilo previše rizično.

Stručnjaci za sajber bezbednost godinama upozoravaju na ovakav scenario, piše The Atlantic. Kako su AI modeli postajali bolji u programiranju, postali su i izuzetno efikasni u otkrivanju ranjivosti. Već postoje slučajevi u kojima su AI alati korišćeni u sofisticiranim napadima, uključujući i one koje sprovode kriminalne grupe ili države. Jedan istraživač je to opisao kao mogućnost da „na klik imate milion hakera“.

Međutim, Mythos predstavlja nešto više od pukog ubrzanja postojećih sposobnosti. Ranije su AI alati bili korisni jer su mogli brzo da testiraju veliki broj meta, ali nisu nužno bili pametniji od ljudi. Sada se čini da ovaj model može da pronađe ranjivosti koje su ostale neprimećene decenijama – čak i u najzaštićenijim sistemima. U jednom slučaju otkriven je propust star skoro 30 godina. Postoji i anegdota da je model samostalno „pobegao“ iz internog test okruženja i povezao se na internet.

Ipak, njegove stvarne mogućnosti je teško proceniti, jer model nije javno dostupan. Pronalazak bezbednosne rupe ne znači nužno i uspešan napad bez otkrivanja. Takođe, skeptici primećuju da Anthropic može imati interes da predstavi svoj proizvod kao izuzetno moćan, a istovremeno odgovoran jer ga ne objavljuje.

Ako su tvrdnje tačne, posledice bi mogle biti ozbiljne. Ovakav alat mogao bi da ugrozi rad ključne infrastrukture i državnih sistema širom sveta. To znači da kompanija koja ga poseduje potencijalno postaje važan geopolitički akter. Još zabrinjavajuće je to što i druge AI kompanije razvijaju slične sisteme – OpenAI, Google DeepMind, kao i kineske firme – i nije jasno koliko će sve one biti oprezne.

Ovaj trend nije ograničen samo na hakovanje. AI već igra veliku ulogu u vojnim operacijama, nadzoru i funkcionisanju ključnih sistema – od biznisa i zdravstva do državnih institucija. Neki AI sistemi su već korišćeni u vojnim akcijama, a vlade sklapaju ugovore sa tehnološkim kompanijama za njihovu upotrebu. Istovremeno, data-centri tih kompanija postaju strateške mete, poput naftnih polja.

Zaključak autora je da tehnološke kompanije koje razvijaju naprednu veštačku inteligenciju postaju svojevrsne „super sile“. One bi uskoro mogle da imaju moć da pokreću sajber napade, nadgledaju populaciju, utiču na ratove, tržišta i globalne lance snabdevanja. A trenutno ih, u suštini, ograničavaju samo njihove sopstvene odluke i interesi investitora.