Ko će kontrolisati sisteme koji mogu da ubijaju bez ljudske kontrole? Veliki obrt u AI ratu - Tramp izbacio konkurenciju, OpenAI ušao u tajni posao

Sem Altman, izvršni direktor OpenAI-ja, objavio je ovu vest u petak uveče. Odluka dolazi nakon što je propao sporazum između kompanije Antropik (Anthropic), rivalske AI firme koja razvija sistem Claude, i Trampove administracije. Do prekida je došlo pošto je Antropik tražio garancije da se njihova tehnologija neće koristiti za masovni nadzor niti za autonomne oružane sisteme koji mogu ubijati bez ljudske kontrole.

Objavljujući detalje dogovora, Altman je naglasio da sporazum OpenAI-ja sa američkom vladom uključuje jasne garancije da se sistemi neće koristiti u te svrhe.

„Dva naša najvažnija bezbednosna principa su zabrana domaćeg masovnog nadzora i ljudska odgovornost za upotrebu sile, uključujući autonomne sisteme naoružanja“, napisao je Altman na mreži X. Dodao je da Pentagon „prihvata te principe, da su oni sadržani u zakonima i politikama i da su ugrađeni u naš sporazum“.

Altman je istakao i da se nada da će Pentagon „ponuditi iste uslove svim AI kompanijama“, kako bi se „deeskalirale pravne i institucionalne tenzije i došlo do razumnog dogovora“.

Ukoliko sporazum zaista zabranjuje korišćenje sistema u neetičke svrhe, to bi značilo da je OpenAI dobio garancije koje Antropik nije uspeo da obezbedi. Altman je objavio vest ubrzo nakon što je predsednik naložio svim saveznim agencijama da „ODMAH PREKINU“ korišćenje Anthropic tehnologije.

Pentagon je prethodno zahtevao od Antropika da ublaži etičke smernice svojih AI sistema ili da se suoči sa ozbiljnim posledicama.

Na svojoj platformi Truth Social, Tramp je poručio: „Levičarski fanatici iz Antropika napravili su KATASTROFALNU GREŠKU pokušavajući da ucene Pentagon i primoraju ga da poštuje njihove uslove korišćenja umesto našeg Ustava.“

Ostaje da se vidi kako će zaposleni u OpenAI-ju reagovati na sporazum sa vladom. U sukobu sa Trampovom administracijom, Antropik je dobio podršku i od svojih najvećih konkurenata. Gotovo 500 zaposlenih iz OpenAI-ja i Google-a potpisalo je otvoreno pismo u kojem navode: „Nećemo dozvoliti da budemo podeljeni.“

U pismu se ističe: „Pentagon pregovara sa Google-om i OpenAI-jem kako bi ih naveo da prihvate ono što je Antropik odbio. Pokušavaju da podele svaku kompaniju stvarajući strah da će druga popustiti.“

Altman je pokušao da umiri zaposlene dopisom poslatim u petak uveče, piše Gardijan.

„Bez obzira na to kako smo došli do ove tačke, ovo više nije samo pitanje između Antropika i Pentagona; ovo je pitanje za čitavu industriju i važno je da jasno definišemo svoj stav“, naveo je Altman u memorandumu do kog je došao Axios.

„Dugo verujemo da se veštačka inteligencija ne sme koristiti za masovni nadzor niti za autonomno smrtonosno oružje, i da ljudi moraju ostati uključeni u donošenje ključnih odluka visokog rizika. To su naše crvene linije.“

Altman je dodao: „Videćemo da li je moguće postići dogovor sa Pentagonom koji omogućava primenu naših modela u poverljivim okruženjima, a da je u skladu sa našim principima. Tražili bismo da ugovor obuhvati sve namene osim onih koje su nezakonite ili neprikladne za primenu u oblaku, poput domaćeg nadzora i autonomnog ofanzivnog naoružanja.“

Antropik, koji se predstavlja kao kompanija sa najstrožim bezbednosnim standardima među vodećim AI firmama, mesecima je bio u sporu sa Pentagonom. Američki zvaničnici odbrane tražili su neograničen pristup mogućnostima sistema Claude, tvrdeći da bi on mogao doprineti zaštiti zemlje. Sa druge strane, Anthropic je odbijao da dozvoli korišćenje tehnologije za masovni nadzor ili autonomne sisteme koji mogu samostalno ubijati.

„Nikakva zastrašivanja ni kazne od strane Pentagona neće promeniti naš stav o domaćem masovnom nadzoru ili potpuno autonomnom oružju“, saopštila je kompanija u petak uveče.

„U dobroj veri smo pokušali da postignemo sporazum sa Pentagonom, jasno stavljajući do znanja da podržavamo sve zakonite primene AI u nacionalnoj bezbednosti, osim u dve navedene situacije“, navela je kompanija. „Koliko nam je poznato, te izuzetke do sada nijedna vladina misija nije osetila.“

Istog dana OpenAI je objavio da prikuplja 110 milijardi dolara u velikoj investicionoj rundi, čime bi vrednost kompanije mogla da dostigne 840 milijardi dolara.