Tvorac ChatGPT osniva grupu za 'obuzdavanje veštačke inteligencije'

OpenAI je sastavio poseban tim za upravljanje rizicima superinteligentne veštačke inteligencije. Ovo se odnosi na hipotetički model veštačke inteligencije koji je pametniji čak i od najinteligentnijih ljudi i koji se ističe u više oblasti stručnosti umesto u jednom domenu, kao što je slučaj u modelima prethodne generacije. OpenAI veruje da bi takav model mogao da stigne do kraja ove decenije.„Superinteligencija će biti najuticajnija tehnologija koju je čovečanstvo ikada izmislilo i mogla bi nam pomoći da rešimo mnoge važne svetske probleme. Međutim, ogromna moć superinteligencije takođe može biti veoma opasna i dovesti do obespravljenja ili čak izumiranja čovečanstva.“, kažu iz Open AI.Novi tim će zajedno voditi glavni naučnik OpenAI Ilja Sutskever i Jan Leike, šef koordinacije istraživačke laboratorije.OpenAI je takođe naveo da će ovoj inicijativi posvetiti 20 odsto svoje trenutno dostupne računarske snage sa ciljem razvoja 'automatskog istraživača poravnanja' (Superalignment). To je sistem koji bi teoretski mogao da pomogne OpenAI da obezbedi superinteligenciju za upotrebu, ali i da je u isto vreme uskladi sa ljudskim vrednostima.„Iako je ovo neverovatno ambiciozan cilj koji možda neće uspeti, mi smo optimistični i verujemo da zajednički napori mogu rešiti ovaj problem. Preliminarni eksperimenti su obećavajući“, ističu iz kompanije.

Ovo saopštenje dolazi usred sve žešće debate među svetskim vladama o regulisanju veštačke inteligencije. Izvršni direktor 'Open AI' Sem Altman sastao se sa više od sto saveznih poslanika u proteklih nekoliko meseci.Altman je javno izjavio da je regulacija veštačke inteligencije važna i da OpenAI želi da radi sa vladama širom sveta. Međutim, kritičari kažu bi trebalo da budemo skeptični prema takvim izjavama i naporima kao što je OpenAI-jev tim za 'Superalignment'. Usmeravajući pažnju javnosti na potencijalne rizike koji se možda neće ni desiti, organizacije poput OpenAI prebacuju teret regulative na budućnost, a ne sadašnjost. Aktuelna pitanja koja predstavljaju veliku pretnju uključuju dezinformacije, interakciju između veštačke inteligencije i rada, i niz pravila sa kojima se autori autorskih prava moraju baviti sada - a ne sutra, zaključuje Engedžet.***BONUS VIDEO: Može li veštačka inteligencija da zameni novinare?