Dramatično upozorenje pape Lava o AI: „Ne smemo prepustiti budućnost mašinama“

Enciklika pod nazivom „Magnifica Humanitas“, objavljena u ponedeljak i duga više od 42.000 reči, predstavlja do sada najopsežnije papino obraćanje o mogućnostima i opasnostima veštačke inteligencije, temi o kojoj često govori od izbora za poglavara Rimokatoličke crkve pre godinu dana.

Dokument je predstavljen kao apel za zaštitu čovečanstva u svetu koji se ubrzano automatizuje. Papa poziva vlade, kompanije i pojedince da uspore razvoj tehnologije i obezbede da veštačka inteligencija ostane pod etičkim i političkim nadzorom.

Encikliku je u Vatikanu predstavio zajedno sa Kristoferom Olahom, suosnivačem kompanije Anthropic, što je protumačeno kao simboličan gest dijaloga između Crkve i AI industrije.

Papa je naglasio da nije protiv tehnološkog napretka.

„Tehnologiju ne treba posmatrati kao silu suprotstavljenu čovečanstvu“, naveo je u dokumentu, dodajući da ona mora biti vođena odgovornom i etičkom upotrebom.

Ipak, upozorio je da bi bez jačih zaštitnih mehanizama veštačka inteligencija mogla da produbi nejednakost, oslabi ljudsku autonomiju i sve više izmesti ključne odluke iz ljudskih ruku.

„Poziv na oprez, strogu procenu i ponekad sporije usvajanje AI tehnologije ne znači protivljenje napretku“, napisao je papa Lav. „To je izraz odgovorne brige za čovečanstvo“.

AI kao „nova industrijska revolucija“

Papa je od početka pontifikata isticao veštačku inteligenciju kao jedno od ključnih pitanja. Ubrzo nakon izbora rekao je Kardinalskom kolegijumu da će se Crkva baviti rizicima koje AI predstavlja za „ljudsko dostojanstvo, pravdu i rad“.

Njegovo interesovanje za ovu temu vidi se i u izboru papinskog imena. Ime Lav izabrao je po papi Lavu XIII, čija je enciklika „Rerum Novarum“ iz 1891. godine govorila o društvenim posledicama Industrijske revolucije i postavila temelje modernog katoličkog socijalnog učenja o radu i tehnologiji, prenosi Time.

Papa Lav XIV povukao je direktnu paralelu između tadašnje industrijske revolucije i današnjeg razvoja AI tehnologije, ocenivši da veštačka inteligencija donosi „novu industrijsku revoluciju“.

Šta je enciklika?

Enciklika je jedan od najvažnijih dokumenata koje papa može da objavi. Tradicionalno se piše kao pismo katoličkim biskupima i široj crkvenoj zajednici, a služi kao zvanično učenje o velikim moralnim, društvenim ili političkim pitanjima.

Takvi dokumenti često imaju dugoročan uticaj ne samo na Katoličku crkvu, već i na šire društvene rasprave.

Najveća sličnost nove enciklike „Magnifica Humanitas“ vidi se upravo sa dokumentom „Rerum Novarum“ pape Lava XIII, koji se tokom Industrijske revolucije bavio pravima radnika, ekonomskom nejednakošću i posledicama ubrzane industrijalizacije.

„Moj voljeni prethodnik dao je podsticaj razmišljanju o društvu, ekonomiji i politici, koje danas poznajemo kao Socijalno učenje Crkve“, napisao je papa Lav XIV.

Opasnosti koje papa vidi u AI tehnologiji

U enciklici papa detaljno opisuje rizike koje veštačka inteligencija može doneti i predlaže mere koje bi države, kompanije i društvo trebalo da preduzmu.

Upozorio je da bi ubrzana automatizacija mogla da izbaci veliki broj ljudi sa tržišta rada i dovede mnoge u stanje „prisilne neaktivnosti“, čime bi bili ugroženi ljudsko dostojanstvo i društvena stabilnost.

„Potraga za većim profitom ne može opravdati odluke koje sistematski žrtvuju radna mesta“, naveo je.

Papa je izrazio zabrinutost i zbog dezinformacija koje generiše AI, posebno njihovog uticaja na decu i mlade, kao i zbog koncentracije moći u rukama malog broja tehnoloških kompanija.

Posebno oštro govorio je o upotrebi AI u ratovanju.

„Sve veća lakoća sa kojom autonomni sistemi naoružanja mogu biti raspoređeni čini rat ‘izvodljivijim’ i manje podložnim ljudskoj kontroli“, upozorio je.

Ipak, naglasio je da AI može biti i „dar koji ublažava patnju i otvara nove mogućnosti“, ukoliko bude usmeren ka dobrobiti ljudi, a ne ka profitu ili monopolu.

Poziv državama da reaguju

Papa smatra da budućnost AI ne sme biti prepuštena isključivo privatnim kompanijama ili „nevidljivoj ruci tržišta“.

Zato je pozvao na:

• snažne zakonske okvire
• nezavisni nadzor
• edukaciju korisnika
• veću političku odgovornost

Takođe je poručio da upotreba AI u ratovanju mora biti podvrgnuta „najstrožim etičkim ograničenjima“.

„Ne možemo smatrati da je veštačka inteligencija moralno neutralna“, napisao je papa, dodajući da odgovornost mora biti jasno definisana u svakoj fazi razvoja i primene tehnologije.

Na kraju, papa Lav XIV pozvao je na „razoružavanje“ veštačke inteligencije, oslobađanje od ekonomskog i vojnog nadmetanja, kao i od monopolističke kontrole, uz otvaranje prostora za širu društvenu raspravu.

„Potrebno je aktivnije političko delovanje koje je sposobno da uspori stvari kada sve ubrzava i da zaštiti mogućnost zajednica da učestvuju i postavljaju pitanja“, zaključio je papa.