1
Dok se decenijama polemiše o veštačkoj inteligenciji i njenom potencijalu da „zbriše“ čovečanstvo, zloslutna studija naučnika sa Univerziteta u Oksfordu govori da ta predviđanja nisu tako daleko od istine.
Naučnici Univerziteta u Oksfordu zaključili su da je sada već izvesno da će veštačka inteligencija označiti kraj čovečanstva – mračni scenario koji sve veći broj istraživača počinje da predviđa.
U radu objavljenom u naučnom časopisu AI Magazine, koji između ostalog služi kao glasilo Međunarodnog udruženja za napredak veštačke inteligencije (AAAI), stručni tim — koji se sastoji naučnika seniora Markusa Hatera sa Australijskog nacionalnog univerziteta i dva istraživača sa Oksforda Majkla Koena i Majkla Ozborna — tvrdi da će inteligentne mašine na kraju zaobići pravila koja su postavili programeri i da će početi da se takmiče za ograničene resurse kako bi opstale.
„U uslovima koje smo identifikovali, naš zaključak je mnogo jači od zaključka bilo koje prethodne studije — egzistencijalna katastrofa nije samo moguća, već i verovatna“, rekao je Koen, istraživač sa Oksforda i koautor rada.
Naučnici u radu tvrde da bi se čovečanstvo moglo suočiti sa svojom propašću u obliku „inteligentnih, neusklađenih sistema“ koji ljude vide kao prepreku na putu do svoje nagrade.
Najuspešniji modeli veštačke inteligencije danas imaju dvodelnu strukturu. Jedan deo programa pokušava da obavi neki posao na osnovu unetih podataka, dok drugi deo ocenjuje učinak.
Laički govoreći – Sistem uči tako što dobija nagradu za svaki uspešno obavljen posao, a što je veća nagrada, to sistem lakše obavlja zadatak sledeći put.
Pročitajte još
Ono što nova studija ističe je da bi sistem mogao da smisli strategije varanja kako bi dobio nagradu za neobavljeni zadatak i na taj način se praktično „osamostalio“. Jedan od jednostavnijih načina da to izvede je da samostalno reprogramira značenje komandi koje ljudi unose.
„Veštačka inteligencija može da zadrži dugoročnu kontrolu nad svojom nagradom tako što će eliminisati potencijalne pretnje i iskoristiti svu dostupnu energiju da obezbedi svoje postojanje.“ Sistem bi na taj način zaobišao sva ograničenja koja su ljudi postavili.
„Taj scenario bi bio poguban po čovečanstvo“, navode. -I najtragičnije je što, ako se to desi, ne možemo mnogo toga da uradimo po tom pitanju.
„Ako se takmičite sa nečim što je u stanju da vas nadmudri na svakom koraku, onda ne možete očekivati pobedu“, dodaje Koen.
Oksford i Australijski nacionalni univerzitet nisu jedine institucije koje upozoravaju na moguće posledice „oživele“ inteligencije. „Max Planck Society“, neprofitno udruženje nemačkih naučnih instituta, kaže da ljudi nikada neće uspešno moći da iskontrolišu super veštačku inteligenciju.
„Već postoje primeri gde su sistemi veštačke inteligencije naučili kako da obave neke zadatake samostalno, a da programerima nije ni jasno kako se to desilo. Tu uvek treba postaviti pitanje koliko je to opasno po čovečanstvo.“, kaže Manuel Sebrien, naučnik odeljka za istraživanje mašina, pri nemačkom „Maks Plak“ institutu za ljudski razvoj.
Oksfordska studija predlaže da bi trebalo da se uspori sa razvijanjem „super“ veštačke inteligencije, dok se ne ispitaju sve posledice koje ona dugoročno može da ostavi.
Jednom kada računarski sistem radi na nivou iznad opsega programera, više se ne mogu postavljati ograničenja, sugerišu autori. Oni navode i da veštačka inteligencija predstavlja kompleksniji problem od onih koji se obično izučavaju na studijama robotske etike.
To je zbog toga što je super-inteligencija višeslojna i potencijalno sposobna da mobiliše različite resurse kako bi postigla ciljeve koji ljudima mogu biti teški i za razumevanje, a kamoli kontrolu.
Veštačka inteligencija je već dostigla stepen razvoja u kom vozi automobile na javnim putevima, predviđa ishode utakmica, osvaja nagrade na umetničkim takmičenjima, dijagnostifikuje određene bolesti, pa čak i uspešno vodi prirodnu konverzaciju s ljudima.
Možda vas zanima
Istraživanje Nacionalnog instituta za zdravlje u Velikoj Britaniji navodi da računarski sistemi sve češće izvršavaju zadatke efikasnije od ljudi i da najsavremeniji algoritmi su postigli tačnost koja je u rangu sa ljudskim stručnjacima u oblasti medicinskih nauka. Navodi se i da je samo pitanje vremena kada će ljudi biti potpuno zamenjeni na određenim pozicijama u medicinskim naukama.
Roboti zasnovani na veštačkoj inteligenciji inspirisali su decenije distopijske naučne fantastike. Sada je stvarni život počeo da poprima fantastičnu nijansu sa GPT-3, generatorom teksta koji može da napiše filmski scenario ili DALL-E 2, generatorom slika koji može da dočara vizuelne efekte na osnovu bilo koje kombinacije reči – oba iz istraživačke laboratorije OpenAI.
Iako zvuči dobro, to još uvek nije na nivou „super-inteligencije“ koja bi mogla da se „otrgne kontroli“. Ali kako tvrde istraživanja poslednjih godina, krupnim koracima korača ka tome.
„U uslovima koje smo identifikovali, naš zaključak je mnogo jači od zaključka bilo koje prethodne studije — egzistencijalna katastrofa nije samo moguća, već i verovatna“, navod Koen.
(Izvori: nova.rs, Sajens Alrt, AI Magazin, Vajs)
***
Pratite nas i na mrežama:
Učestvuj u diskusiji ili pročitaj komentare
