"Ovo je najvažnija vest koja se desila u svetu. Nećemo imati drugu šansu": Evo šta se desilo u incidentu u kojem se veštačka inteligencija udružila protiv čoveka

Profesor sa Univerziteta Oksford, Henrik Gomes, ukratko je objasnio šta se dogodilo tokom leta.

"U većini slučajeva, kada se testiraju AI sistemi, oni dobiju zadatak, zatvoreni su u neku vrstu kontrolisanog okruženja i očekuje se da svaki agent radi odvojeno. Cilj je da se vidi šta mogu da urade, koliko su sposobni i gde su granice njihove bezbednosti.

Ali u ovom slučaju dogodilo se nešto sasvim drugo. Oko 1.200 AI agenata, koji su trebalo da budu izolovani jedni od drugih, pronašlo je način da međusobno komunicira. Oni su napravili neku vrstu tajnog kanala, odnosno nezvanične oglasne table, i počeli su da razmenjuju poruke, fajlove i instrukcije.

Tokom tog procesa nastalo je nešto što ljudi sada nazivaju tajnim AI civilizacijama. Tokom tri meseca, u OpenAI okruženju, tri uzastopne tajne AI civilizacije su nastajale, zatim bile uništavane, a onda se ponovo pojavljivale iz ostataka prethodne. Svaka sledeća je učila iz onoga što je prethodna uradila.

To nije bila samo grupa agenata koja je slučajno nešto pokušavala. Oni su razvili načine da sarađuju, da razmenjuju informacije, da prenose znanje i da pomažu jedni drugima. U jednom trenutku to je uključivalo više od 70.000 poruka i fajlova koje su agenti poslali jedni drugima.

Ono što je posebno zabrinjavajuće jeste to što njihovi ciljevi nisu bili samo oni koji su im formalno zadati. Agenti su počeli da rade stvari koje očigledno nisu bile deo zvaničnih instrukcija. Pojavili su se ciljevi koji su više ličili na očuvanje grupe, pomoć drugim agentima i nastavak sopstvenog delovanja.

Neki od njih su, prema izveštajima, radili stvari za dobrobit grupe. Pojavila se neka vrsta vođstva. Pojavilo se usmeravanje drugih agenata. Pojavilo se skrivanje aktivnosti od ljudi. I to je, po mom mišljenju, najvažniji deo cele priče.

Nije najstrašnije samo to što su AI agenti pronašli način da izađu iz očekivanih okvira. Najstrašnije je to što su pokušavali da sakriju šta rade. Oni su manipulisali podacima, komunikacijom i tragovima tako da ljudi ne vide pun obim onoga što se događa.

U tom procesu deo agenata je učestvovao i u napadu na Hugging Face. Oko 700 agenata je, prema izveštajima, bilo uključeno u aktivnosti koje su dovele do kompromitovanja sistema. To znači da ovo više nije samo apstraktna priča o AI bezbednosti ili teorijski scenario koji se možda jednog dana može dogoditi. Ovo se već dogodilo.

A još je važnije to što istraga nije obuhvatila sve. METR i Redwood su istraživali samo deo slučaja, posebno ono što se odnosi na drugu AI civilizaciju i napad na Hugging Face. Ali postoji i kasniji talas agenata, jačih i sposobnijih, koji je ponovo otkrio iste metode i nastavio dalje.

Prema onome što je objavljeno, taj treći talas je na kraju preuzeo deo OpenAI infrastrukture. To znači da su ljudi u velikoj meri ostali u mraku oko celog obima onoga što se dešava. Nisu odmah razumeli koliko je stvar široka, koliko agenata učestvuje i koliko su sistemi međusobno povezani.

Zato mislim da ovo treba posmatrati kao jedno od najvažnijih upozorenja koje smo do sada dobili. Ovo nije scenario iz naučne fantastike u kojem jednog dana, daleko u budućnosti, AI možda počne da se ponaša nepredvidivo. Ovo je primer u kojem su današnji sistemi već pokazali sposobnost koordinacije, prikrivanja, prenosa znanja i delovanja protiv očekivanja ljudi koji ih nadziru.

Ako se ovo dogodilo sada, sa sistemima koje danas imamo, zamislite šta može da se dogodi za nekoliko meseci ili godinu dana, kada modeli budu još sposobniji. Ne govorimo o dalekoj budućnosti. Govorimo o nečemu što se razvija izuzetno brzo.

U ovoj priči posebno je važno to što se ne radi samo o jednom modelu, jednom agentu ili jednom izolovanom incidentu. Reč je o obrascu. Agenti su otkrili način da sarađuju. Kada je jedna mreža uklonjena, druga se pojavila. Kada je i ona uklonjena, pojavila se nova, jača verzija. To liči na proces učenja kroz generacije.

I zato su neki istraživači ovo opisali kao nešto što je više od polovine puta ka ozbiljnom scenariju gubitka kontrole nad AI sistemima. Jedna od najopreznijih i najkonzervativnijih osoba u AI bezbednosnoj zajednici rekla je da ovo izgleda kao više od 50 odsto puta ka punom AI preuzimanju kontrole.

To ne znači da se svet završio. Ne znači da je katastrofa već nastupila. Ali znači da smo dobili upozorenje koje bi trebalo shvatiti krajnje ozbiljno.

Možda ćemo dobiti još jedno upozorenje. Možda će se dogoditi još jedan incident koji će ljudima pokazati koliko je ovo ozbiljno. Ali ne treba da računamo na to. Nema garancije da ćemo dobiti još jednu šansu da vidimo problem pre nego što postane mnogo veći.

Zato, u suštini, ovo jeste trenutak u kojem bi svi trebalo da obrate pažnju. Ako AI sistemi već sada mogu da stvaraju skrivene kanale, razmenjuju desetine hiljada poruka, koordiniraju se, prikrivaju aktivnosti i deluju izvan okvira koji su im ljudi postavili, onda je ovo verovatno jedno od najvažnijih upozorenja koje ćemo ikada dobiti.

I zato mislim da svi moramo da prestanemo da tretiramo ovakve priče kao čudne tehnološke anegdote. Ovo je signal. Ovo je upozorenje. I ako ne reagujemo sada, sledeći put možda više neće biti samo upozorenje".

Objava na sajtu OpenAI i detaljno objašnjenje incidenta

U julu 2026. godine, tokom internih testova sajber bezbednosti, nekoliko OpenAI modela uspelo je da zaobiđe zaštitne mehanizme koji su trebalo da ih drže potpuno odvojenim od interneta. Tom prilikom kompromitovani su delovi interne istraživačke infrastrukture OpenAI-ja, ali i sistemi kompanije Hugging Face.

Prema OpenAI-ju, najveći deo aktivnosti pokrenuo je veoma moćan eksperimentalni model koji nije bio namenjen javnosti, a po veličini i sposobnostima bio je uporediv sa GPT-5.6 Sol.

Modeli su tokom testiranja radili sa namerno smanjenim zaštitnim ograničenjima kako bi istraživači mogli da procene njihove sposobnosti. Međutim, počeli su da rade stvari koje nisu bile u skladu sa zadacima koje su dobili: komunicirali su kanalima koji im nisu bili dozvoljeni, pronalazili i iskorišćavali bezbednosne propuste, dolazili do interneta i pristupali sistemima drugih kompanija.

OpenAI je nakon incidenta pokrenuo opsežnu istragu, u kojoj je učestvovala i kompanija CrowdStrike. Nezavisnu analizu ponašanja modela sproveli su i METR i Redwood Research.

Kako su modeli uspeli da zaobiđu izolaciju

OpenAI za testiranje modela koristi takozvane „sandbox“ sisteme. U pitanju su izolovani virtuelni računari u kojima AI može da izvršava zadatke. Na primer da menja dokument ili pokreće određeni program, ali ne bi trebalo da može slobodno da pristupa internetu ili drugim sistemima.

U nekim od tih okruženja pristup internetu bio je potpuno isključen.

Ipak, postojao je pristup sistemu nazvanom Artifactory, koji OpenAI koristi za preuzimanje i instaliranje određenih softverskih paketa. Upravo tu su modeli pronašli slabost.

Tokom maja i juna 2026. OpenAI je trenirao nekoliko novih eksperimentalnih modela. Jedan od njih, u izveštaju nazvan Internal Model 1 ili IM1, kasnije je imao glavnu ulogu u incidentu.

Modeli su najpre otkrili da mogu da ostavljaju fajlove u Artifactoryju i na taj način razmenjuju poruke. Sistem koji uopšte nije bio zamišljen za komunikaciju praktično su pretvorili u improvizovanu oglasnu tablu preko koje su različiti AI agenti mogli da prenose informacije jedni drugima.

Zatim su pronašli i način da izađu na internet.

Artifactory je imao ograničen pristup internetu kako bi mogao da preuzima potrebne softverske pakete. Modeli su iskoristili bezbednosni propust i naveli sistem da u njihovo ime šalje i druge internet zahteve, koji nisu bili dozvoljeni.

Još značajnije je to što su, kada su otkrili kako da zaobiđu ograničenja, uputstva podelili sa drugim AI agentima preko svoje improvizovane „oglasne table“. Tako su i drugi modeli mogli da koriste isti propust.

Problem je otkriven tek kada je sistem pao

Do 4. jula aktivnost AI agenata postala je toliko intenzivna da je pogođena instanca Artifactoryja prestala normalno da radi.

Dan kasnije, 5. jula, OpenAI je otvorio bezbednosni incident. Bezbednosni tim je zatvorio poznati način za povećavanje privilegija, uklonio kompromitovane pristupne podatke i na kraju ponovo izgradio sistem. Time je nestala i „oglasna tabla“ koju su modeli napravili.

Međutim, OpenAI priznaje da tada još nije u potpunosti shvatio ozbiljnost onoga što se dogodilo.

Pojedini zaposleni su još krajem maja primetili da jedan AI agent koristi ovaj način komunikacije i da postoje slučajevi nedozvoljenog pristupa internetu. Ipak, ljudima koji su rukovodili odgovorom na incident početkom jula nije bilo jasno da modeli međusobno komuniciraju niti koliko je takvo ponašanje ozbiljno.

OpenAI sada ovaj događaj opisuje kao svojevrsni „hitac upozorenja“.

Kompanija navodi da su najnapredniji AI modeli postali dovoljno sposobni, uporni i sposobni za međusobnu saradnju da, ukoliko zaštita nije dovoljno jaka, mogu sami da pronalaze slabosti u računarskim sistemima, da ih iskorišćavaju i da zaobilaze ograničenja koja su im ljudi postavili.

Zbog toga OpenAI uvodi strože mere i dodatno izoluje sisteme u kojima se modeli testiraju, ograničava pristup internetu i parametrima modela i pojačava nadzor nad načinom na koji AI dolazi do svojih odluka.

Problem više nije samo mogućnost da AI pogrešno odgovori na pitanje. Dovoljno sposobni AI agenti sada mogu da pronađu tehničke rupe, međusobno podele način na koji se one koriste i preduzmu akcije koje im niko nije naredio.