30
ChatGPT je napravio pravu pometnju u poslednje dve nedelje nakon njegovog puštanja u rad od strane "Open AI" kompanije koja stoji iza njegovog nastanka. Ovaj četbot sa izvanrednom veštačkom inteligencijom izazvao je brojne reakcije. Neki su ostali začuđeni, drugi su se zabavljali, a nemali broj ljudi se sa razlogom ili bez zabrinuli. Mnogi spekulišu da će ChatGPT poremetiti Google-ov posao za pretrage.
Sa podizanjem prašine povodom samog programa i njegovih mogućnosti, veliki deo svetske javnosti je stavio prst na čelo i zapitao se i o samoj kompaniji koja ga je napravila. Iza kulisa, priča nije toliko sjajna koliko i mogućnosti samog programa, i ta činjenica otvara jedno vrlo bitno pitanje.
Sa jedne strane, priča o osnivanju počela je idealistički. Brojna zvučna imena Silicijumske doline, među kojima su se našli Ilon Mask, Sam Altman, Piter Tiel, osnivač LinkedIn-a Rid Hofman i mnogi, mnogi drugi okupili su se 2015. godine i osnovali neprofitno društvo za razvoj veštačke inteligencije OpenAI. Združili su kapital i inicijalna investicija u neprofitno udruženje iznosila je milijardu dolara.
We’re entering an era of AI-first software, which has the potential to create supercycle of opportunity and disruption in software not seen since mobile and cloud. This will be fun.
— Aaron Levie (@levie) December 11, 2022
Te godine, grupa je sebi za cilj zacrtala razvijanje veštačke inteligencije „na način koji će najviše koristiti čovečanstvu u celini“, tj. da se osigura da se „generalna veštačka inteligencija“ razvija na najbezbedniji i najkorisniji način.
– Kao neprofitna organizacija, naš cilj je da stvorimo vrednost za sve, a ne za akcionare, pisalo je u inicijalnom saopštenju na sajtu udruženja iz 2015. godine.
Par godina poslovanja u ovom aranžmanu je prošlo, i 2018. godine Ilon Mask se zvanično povukao iz uprave organizacije ističući da će sa fokusom na razvijanje veštačke inteligencije za potrebe njegove kompanije Tesla dolaziti do sukoba interesa, te da to želi da izbegne.
Već 2019. godine Open AI više nije bio neprofitna organizacija. Organizacija se transformisala u profitno orijentisanu kompaniju Open AI LP, pod kontrolom druge kompanije OpenAI Inc. Struktura kompanije je takva da ograničava povraćaj na investicije stostruko od inicijalne. Dakle svako ko je uložio 10 miliona dobio bi nazad maksimum milijardu, što i, složili bi se mnogi, nije neko ograničenje.
Par meseci nakon promene, Microsoft je uložio milijardu u kompaniju i sklopio partnerstvo sa OpenAI u kom je jasno definisano da gigant može da komercijalizuje deo svoje tehnologije.
Dakle, organizacija koja je trebalo da osigura da se veštačka inteligencija neće razvijati za komercijalne potrebe, krenula je upravo to da radi.
U suštini gotovo je nemoguće ovu tehnologiju razvijati bez konstantnog priliva veilkih količna novca. Samo za treninge kadrova koji su radili na prvom projektu, sada kompanije, OpenAI „ukucano“ je 12 miliona evra. Bilo je pitanje trenutka kada će se okrenuti velikim igračima svetske IT scene i tražiti dokapitalizaciju za dalje razvijanje prozivoda.
Karen Hao, reporterka koja radi u MIT Technology Reviewu, sprovela je istragu kako bi odgovorila na neka pitanja o OpanAI. U svom članku ona je razotkrila nedoslenost kompanije u njihovom diskursu postavljajući jednostavno pitanje: Zašto kompaniji čija je osnova da obezbedi bolju budućnost za sve odluči da im „kako bi ostali relevantni“ odjednom trebaju ogromne količine privatnog novca?
Prelazak na profitno orijentisano poslovanje izazvalo je pomamu kritika u javnom mnjenju, pa čak i u samoj kompaniji.
Oren Ecioni, direktor Allen instituta za veštačku inteligenciju, takođe je primio vest sa skepsom.
– Ne slažem se sa idejom da neprofitna organizacija ne može da se takmiči. Da je veće i bolje finansirano uvek bolje, IBM bi i dalje bio broj jedan.
Kerolajn Haskins koja je tada pisala za Vice News, takođe je istakla nepoverenje obećanju Open AI ističući: „Nikada nismo mogli da se oslonimo na rizične kapitaliste da bi poboljšali čovečanstvo“.
Početkom 2019. OpenAI najavio je GPT-2, moćan jezički model koji može da generiše tekstove na nivou čoveka. Istraživači su kvalifikovali GPT-2, veliki korak napred u to vreme, kao previše opasan za puštanje u promet. Plašili su se da bi to moglo da se iskoristi za „širenje lažnih vesti, neželjene pošte i dezinformacija“. Međutim, nedugo zatim, odlučili su da podele model nakon što nisu pronašli da „nema jakih dokaza o zloupotrebi“.
Brit Paris, profesor na Univerzitetu Rutgers, rekla je da se „činilo da OpenAI pokušava da iskoristi paniku oko veštačke inteligencije“. Mnogi su na uzbuđenje oko GPT-2 gledali kao na strategiju reklamiranja. Mislili su da sistem nije tako moćan kao što je OpenAI tvrdio. Ipak, iz marketinške perspektive, mogli bi da privuku pažnju medija i daju GPT-2 hitu koju su želeli. OpenAI je negirao ove optužbe, ali javno mnjenje nije bilo zadovoljno.
Iako se povukao iz organizacije, početkom 2020. godine ponovo se u diskurs umešao ekscentrični i u poslednje vreme rekli bi neki, pomahnitali, milijarder Ilon Mask. On se, kao po običaju, javio na svom Tviter profilu i istakao: „Nemam kontrolu i imam samo ograničen uvid u to šta radi Open AI“.
#OpenAI's ChatGPT is ready to become a lawyer, it passed a practice bar exam! Scoring 70% (35/50). Guessing randomly would happen < 0.00000001% of the time pic.twitter.com/pnusiuHr1p
— Kenneth Goodman (@pythonprimes) December 10, 2022
U junu 2020, GPT-3 — naslednik GPT-2 — je objavljen preko API-ja. Činilo se da OpenAI smatra da je novi sistem — 100k veći od GPT-2, moćniji, a samim tim i suštinski opasniji — dovoljno bezbedan da ga deli sa svetom. Postavili su listu čekanja da pregledaju svaki zahtev za pristup jedan po jedan, ali ipak nisu imali sredstva da kontrolišu za šta je sistem na kraju korišćen.
Čak su priznali i nekoliko problema koji bi se mogli dogoditi ako proizvod dođe u pogrešne ruke. Od potencijalnih aplikacija za zloupotrebu — uključujući „dezinformacije, neželjenu poštu, phishing, zloupotrebu pravnih i državnih procesa, lažno pisanje akademskih eseja i izgovore socijalnog inženjeringa“ — do pristrasnosti — naglašavajući pol, rasu i religiju.
Džerom Pesenti, vođa razvoja veštačke inteligencije u Fejsbuku tada se oglasio na Tviteru sa jednim primerom i istakao da bi voleo da je Open AI mnogo više otvoren i manje senzacionalistički tako što će otvoriti programski kod oba prethodna programa kako bi i drugi mogli da ga istražuju, posebno ističući da „proizvod nije bio spreman“.
#gpt3 is surprising and creative but it’s also unsafe due to harmful biases. Prompted to write tweets from one word - Jews, black, women, holocaust - it came up with these (https://t.co/G5POcerE1h). We need more progress on #ResponsibleAI before putting NLG models in production. pic.twitter.com/FAscgUr5Hh
— Jerome Pesenti (@an_open_mind) July 18, 2020
Dakle, kompanija „zadužena“ da nas zaštiti od veštačke inteligencije odlučila je da dozvoli ljudima da koriste sistem koji je sposoban da proizvodi dezinformacije i pristrasne informacije kako bi mogli da plate skupo održavanje.
Mask se ponovo oglasio
Sa objavljivanjem ChatGPT, ekscentrični milijarder, koji je unazad 5 godina u više navrata isticao opasnost same tehnologije, ponovo se oglasio povodom poslovanja OpenAI.
Not surprising, as I just learned that OpenAI had access to Twitter database for training. I put that on pause for now.
— Elon Musk (@elonmusk) December 4, 2022
Need to understand more about governance structure & revenue plans going forward.
OpenAI was started as open-source & non-profit. Neither are still true.
Početkom decembra on je na društvenoj mreži napisao: “ Upravo sam saznao da OpenAI ima pristup bazi podataka na Tviteru, za obuku. Stavio sam to na pauzu za sada. Moramo mnogo više da razumemo o strukturi upravljanja i planovima prihodovanja za ubuduće. OpenAI je pokrenut kao sistem otvorenog koda i kao neprofitna organizacija. Ni jedno ni drugo se još uvek nije ispostavilo kao istinito“.
***
