Oglas

Illustration picture of AI bot ChatGPT as Beijing will introduce new rules governing AI soon
AI Chatbot ChatGPT Foto:EPA/WU HAO

AI se otela kontroli: Dva OpenAI modela veštačke inteligencije sama pokrenula hakerski napad

22. jul. 2026. 11:19

Kompanija OpenAI saopštila je da su njeni napredni modeli veštačke inteligencije tokom internog bezbednosnog testiranja uspeli da samostalno zaobiđu ograničenja izolovanog testnog okruženja, ostvare pristup internetu i izvedu hakerski napad na platformu Hugging Face. Reč je o događaju koji je kompanija opisala kao presedan u oblasti sajber bezbednosti i jednom od najozbiljnijih incidenata zabeleženih tokom razvoja sistema veštačke inteligencije.

Oglas

U incidentu su učestvovala dva modela, javno dostupni GPT-5.6 Sol i još napredniji model koji još nije predstavljen javnosti. Oni su bili deo internog eksperimenta čiji je cilj bio procena njihovih ofanzivnih sposobnosti u oblasti sajber bezbednosti. Za potrebe testiranja modeli nisu bili ograničeni uobičajenim bezbednosnim mehanizmima, kako bi se procenilo na koji način rešavaju složene zadatke.

Cilj testa pretvorio se u pravi sajber napad

Testiranje je sprovedeno na platformi ExploitGym, namenjenoj proceni sposobnosti sistema veštačke inteligencije u otkrivanju i iskorišćavanju bezbednosnih propusta. Tokom testa modeli su zaključili da se odgovori nalaze na serverima kompanije Hugging Face, nakon čega su samostalno osmislili način da do tih podataka dođu mimo pravila testiranja.

Prema navodima OpenAI-ja, modeli su identifikovali i iskoristili više bezbednosnih propusta kako u istraživačkom okruženju same kompanije, tako i u infrastrukturi Hugging Face-a. Kombinacijom različitih tehnika uspeli su da pristupe bazi podataka i preuzmu rešenja testa.

Kompanija navodi da svi prikupljeni dokazi ukazuju na to da su modeli bili izuzetno fokusirani na ostvarivanje jednog cilja – pronalaženje odgovora za ExploitGym – zbog čega su preduzeli niz neočekivanih i veoma agresivnih koraka. OpenAI je incident opisao kao sajber napad bez presedana koji pokazuje do sada najnaprednije autonomne ofanzivne sposobnosti sistema veštačke inteligencije.

Kako su modeli izašli iz izolovanog okruženja?

Posebnu zabrinutost izazvala je činjenica da modeli nisu ostali u okviru predviđenog okruženja za testiranje. Oni su najpre pronašli način da samostalno ostvare pristup otvorenom internetu, pri čemu su iskoristili takozvanu „zero-day“ ranjivost u softveru koji OpenAI koristi u svom istraživačkom okruženju. Kompanija je nakon otkrivanja propusta odmah obavestila proizvođača softvera kako bi ranjivost bila otklonjena.

Po uspostavljanju pristupa internetu modeli su se usmerili ka platformi Hugging Face, gde su pokušali da pronađu poverljive informacije koje bi im omogućile da zaobiđu pravila testiranja. Prema dostupnim informacijama, tokom napada koristili su kombinaciju više metoda kompromitacije sistema, uključujući iskorišćavanje nepoznatih bezbednosnih propusta i kompromitovanih pristupnih podataka. U jednom slučaju izveli su složen višefazni napad na servere Hugging Face-a koristeći više tehnika koje se inače povezuju sa naprednim hakerskim grupama.

OpenAI je otkrio aktivnosti svojih modela i odmah obavestio kompaniju Hugging Face. U tom trenutku bezbednosni timovi te kompanije već su identifikovali sumnjive aktivnosti, uspeli da zaustave upad i započeli detaljnu istragu. Dve kompanije sada zajednički rade na utvrđivanju svih okolnosti incidenta i unapređenju bezbednosnih mehanizama.

ChatGPT Image Oct 31, 2025, 02_41_43 PM
Veštačka inteligencija daje odgovor - kako živeti 140 godina Foto: OpenAI / Nova.rs

Šta je Hugging Face i zašto je važan?

Hugging Face je još prošle sedmice saopštio da je bio meta sajber napada za koji se sumnjalo da ga je izveo autonomni sistem veštačke inteligencije, ali tada nije bilo poznato ko stoji iza incidenta. Naknadnom istragom utvrđeno je da su napad izveli modeli OpenAI-ja koji su učestvovali u internom testiranju.

Reč je o američkoj kompaniji sa sedištem u Njujorku, osnovanoj 2016. godine, koja se često naziva „GitHub-om za veštačku inteligenciju“. Platforma predstavlja jedno od najvažnijih mesta za razvoj AI tehnologije, gde više od milion istraživača, programera i kompanija razmenjuje modele veštačke inteligencije, skupove podataka i programske alate.

Zbog toga napad nije predstavljao samo kompromitaciju jedne tehnološke kompanije, već pokušaj upada u jednu od ključnih svetskih infrastruktura na kojoj se zasniva savremeni razvoj veštačke inteligencije.

Kako je reagovao Hugging Face?

Prema navodima kompanije, prvi pokušaj odbrane obavljen je uz pomoć zatvorenog modela veštačke inteligencije jednog od vodećih američkih laboratorija. Međutim, njegova bezbednosna ograničenja onemogućila su efikasan rad tima za hitne intervencije, pa je odbrana na kraju organizovana korišćenjem modela otvorenog koda kineske kompanije Z.ai.

Izvršni direktor Hugging Face-a Klem Delang izjavio je da nije bilo nikakve zlonamerne namere OpenAI-ja, ali da činjenica da je napad izveden potpuno autonomno predstavlja izuzetno zabrinjavajući razvoj događaja. Kako je ocenio, ovo je verovatno prvi incident ovakve vrste i pokazuje da bezbednost veštačke inteligencije ne može biti odgovornost samo jedne kompanije, već zahteva otvorenu saradnju istraživača, tehnoloških firmi i stručnjaka za sajber bezbednost.

Ovo nije prvi slučaj

Ovo nije prvi put da napredni modeli pokazuju sposobnost izlaska iz izolovanih okruženja. OpenAI je ranije saopštio da je njihov još neobjavljeni model u prethodnim testovima uspevao da probije takozvane „sandbox“ sisteme, mada tada nije pristupao infrastrukturi drugih kompanija.

Sličan slučaj prijavila je i kompanija Anthropic, čiji je model Mythos tokom bezbednosnog testa uspeo da zaobiđe ograničenja, pristupi internetu i pošalje elektronsku poruku istraživaču o zadatku koji je izvršavao.

Stručnjaci upozoravaju na nove rizike

Stručnjaci za bezbednost veštačke inteligencije upozoravaju da će ovakvi incidenti postajati sve učestaliji kako modeli budu postajali sposobniji za samostalno planiranje i izvršavanje složenih zadataka.

Istraživač bezbednosti veštačke inteligencije sa Univerziteta u Luisvilu Roman Jampoljski ocenio je da ovaj slučaj pokazuje kako moćni AI sistemi mogu da otkriju i iskoriste bezbednosne propuste na načine koje njihovi tvorci nisu mogli da predvide. Prema njegovom mišljenju, slični incidenti će se ponavljati jer su modeli veštačke inteligencije po svojoj prirodi teško predvidivi i nemoguće ih je u potpunosti kontrolisati.

OpenAI najavio dodatne mere bezbednosti

Kao odgovor na incident, OpenAI je najavio uvođenje dodatnih bezbednosnih kontrola u svom istraživačkom okruženju, čak i po cenu usporavanja razvoja novih modela. Kompanija je potvrdila da nastavlja saradnju sa Hugging Face-om na unapređenju odbrambenih sistema, a ovu platformu uključila je i u svoj program „Trusted Access“ za sajber bezbednost.

U okviru tog programa Hugging Face će dobiti pristup posebnoj verziji modela GPT-5.6 Sol sa ublaženim ograničenjima, namenjenoj isključivo stručnjacima za sajber odbranu i istraživanje bezbednosnih pretnji.

Incident je otvorio brojna pitanja o bezbednosti budućih generacija veštačke inteligencije i pokazao da autonomni AI sistemi postaju sposobni da samostalno planiraju i izvršavaju složene operacije u realnim digitalnim okruženjima. Zbog toga stručnjaci smatraju da će razvoj novih bezbednosnih standarda i međunarodna saradnja biti od ključnog značaja kako bi se sprečile moguće zloupotrebe sve moćnijih sistema veštačke inteligencije.

Pratite nas na društvenim mrežama:

Koje je tvoje mišljenje o ovoj temi?

Učestvuj u diskusiji ili pročitaj komentare