Razvili AI koji može da hakuje svet za nekoliko minuta: Kompanija krije model jer je „previše opasan“

Kako navode iz kompanije, cilj je da se odgovorni akteri pripreme za novu fazu sajber pretnji. „Cilj je i da podignemo svest i da damo prednost dobrim akterima u procesu zaštite infrastrukture i koda“, rekao je glavni naučnik kompanije Džared Kaplan.

Model je već pokazao sposobnost da samostalno pronalazi ranjivosti u softveru, uključujući takozvane „zero-day“ propuste – greške koje nisu poznate čak ni njihovim autorima. Prema tvrdnjama kompanije, Claude Mythos je otkrio hiljade takvih problema, uključujući i one u najvažnijim operativnim sistemima i internet pregledačima, piše Njujork tajms.

Logan Grejem iz Anthropic-a upozorio je da je ovo tek početak velikih promena: „Ovo je početna tačka za ono što mislimo da će biti prekretnica za industriju.“

Zabrinutost dodatno pojačava činjenica da isti alati koji mogu unaprediti bezbednost mogu biti iskorišćeni i za napade. Kako upozoravaju stručnjaci, veštačka inteligencija bi mogla drastično ubrzati proces hakovanja, koji je do sada bio rezervisan za vrhunske eksperte.

„Ono za šta su nekada bili potrebni meseci, sada se dešava za nekoliko minuta uz pomoć veštačke inteligencije“, rekao je Elija Zajcev iz kompanije CrowdStrike.

Upravo zbog toga, Anthropic je odlučio da ograniči pristup modelu i pokrene projekat „Glasswing“, kroz koji će saradnici pokušati da unapred zakrpe ranjivosti pre nego što ih iskoriste hakeri.

"Alarm za ceo svet"

Ipak, mnogi smatraju da je ovo upozorenje na mnogo širi problem.

Kolumnista Njujork tajmsa Tomas Fridman ocenjuje da je odluka kompanije zapravo alarm za ceo svet. „Ovo nije marketinški trik“, upozorava on, dodajući da bi ovakva tehnologija mogla omogućiti napade na gotovo sve ključne sisteme – od elektroenergetskih mreža do bolnica i vojnih sistema.

Fridman ističe i mračnu stranu razvoja: „Ako ovaj alat padne u ruke loših aktera, mogli bi da hakuju praktično svaki veliki softverski sistem na svetu.“

On upozorava da razvoj ide brže nego što se očekivalo: „Superinteligentna veštačka inteligencija stiže brže nego što smo mislili.“

U slikovitom upozorenju, Fridman dodaje: „Nisam preterao kada kažem da bi deca mogla slučajno da pokrenu ovakve napade“, ilustrujući to zamišljenim razgovorom: „Mama, ja i drugari smo danas srušili elektroenergetsku mrežu – šta ima za večeru?“

Zbog toga poziva na globalnu saradnju, posebno između SAD i Kine, kako bi se sprečilo da ovakva tehnologija postane oružje u rukama kriminalaca i terorističkih grupa.

„Ono što je nekada bilo rezervisano za velike države i organizacije sada može postati dostupno malim akterima“, upozorava Fridman, dodajući da svet ulazi u eru „potpune demokratizacije sajber napada“.

Dok tehnološke kompanije pokušavaju da iskoriste potencijal ove tehnologije za odbranu, jasno je da je otvorena nova, neizvesna faza u digitalnoj bezbednosti – u kojoj će trka između zaštite i napada postati brža i opasnija nego ikada ranije.