To je vsebina letošnje papeževe poslanice ob 57. svetovnem dnevu miru, ki ga bomo v Katoliški cerkvi obhajali čez štirinajst dni, 1. januarja 2024. Po navedbah spletnega portala Vatican News so poslanico v Vatikanu predstavili konec minulega tedna, sveti oče pa v njej premišljuje predvsem o vprašanju umetne inteligence in njenih vplivih na svetovni mir. Kot je zapisal, morajo biti nove tehnologije vedno usmerjene v »prizadevanje za mir in skupno dobro v službi celostnega razvoja posameznikov in skupnosti«.

Kakšne so srednje- in dolgoročne posledice novih digitalnih tehnologij? In kakšen vpliv bodo te tehnologije imele na življenje posameznika in družbe ter na mednarodno stabilnost in mir?

»Znanstveni in tehnološki napredek« namreč človeku omogoča, da ima »nadzor nad stvarnostjo, kakršen doslej še ni bil mogoč«. To pa dopušča možnosti, od katerih bi nekatere lahko pomenile tveganje za preživetje človeka in nevarnost za naš skupni dom«. Zato si moramo na tej točki nujno zastaviti določena vprašanja: »Kakšne so srednje- in dolgoročne posledice novih digitalnih tehnologij? In kakšen vpliv bodo te tehnologije imele na življenje posameznika in družbe ter na mednarodno stabilnost in mir?«

Papež opozarja, da ne smemo »vnaprej domnevati«, kako bo umetna inteligenca »pozitivno prispevala k prihodnosti človeštva in miru med narodi«. Takšen pozitiven rezultat bomo lahko dosegli le v primeru, če bomo dokazali, da smo sposobni ravnati odgovorno. Vsekakor primeru ni dovolj, da s strani razvijalcev algoritmov in digitalnih tehnologij zgolj »predvidevamo zavezanost k etičnemu in odgovornemu ravnanju«. Po papeževih beseda je treba »okrepiti ali po potrebi ustanoviti organizacije, ki bodo obravnavale porajajoča se etična vprašanja in varovale pravice tistih, ki uporabljajo oblike umetne inteligence ali so pod njihovim vplivom«.

Obdan s pametnimi telefoni: papež med splošno avdienco. FOTO: Vatican Media

»Pomemben je občutek za meje«

Papež recimo svari pred uporabo umetne inteligence v kampanjah lažnih novic. Kot možna področja zlorabe umetne inteligence omenja tudi »diskriminacijo, vmešavanje v volilne procese, nastanek družbe nadzora, digitalno izključenost«: »Vsi ti dejavniki predstavljajo nevarnost, da bodo netili spore in ovirali mir.«

Nasprotno pa Frančišek poudarja »občutek za meje«: »Če človek, ki je po definiciji smrten, misli, da lahko s pomočjo tehnologije preseže vse meje, tvega, da bo zaradi svoje obsedenosti z željo po nadzoru nad vsem izgubil nadzor nad samim seboj; v iskanju popolne svobode tvega, da bo padel v spiralo tehnološke diktature.«

Algoritmom ne smemo dovoliti, da bi določali, kako razumemo človekove pravice, da bi postavili na stran temeljne vrednote sočutja, usmiljenja in odpuščanja ...

Papež meni, da je uporaba umetne inteligence v procesih izbire in odločanja etično zelo problematična: »Algoritmom ne smemo dovoliti, da bi določali, kako razumemo človekove pravice, da bi postavili na stran temeljne vrednote sočutja, usmiljenja in odpuščanja ali da bi izključili možnost, da se posameznik spremeni in pusti preteklost za seboj.« Zelo kritičen je tudi do njihove uporabe v obrambni industriji: »Avtonomni oborožitveni sistemi ne bodo nikoli mogli biti moralno odgovorni subjekti.«

Za mednarodno pogodbo o ureditvi umetne inteligence

Sveti oče v poslanici ob svetovnem dnevu miru poziva mednarodno skupnost, naj »sklene zavezujočo mednarodno pogodbo, ki bo urejala razvoj in uporabo umetne inteligence v njenih različnih oblikah«. Cilj podpisnikov mora biti, »da hiter razvoj oblik umetne inteligence ne bi še povečal številnih neenakosti in nepravičnosti, ki že obstajajo v svetu, ampak bi pomagal končati vojne in spopade ter ublažiti številne oblike trpljenja, ki pestijo človeško družino«.

Tokratna papeževa poslanica ob svetovnem dnevu miru je doslej najpomembnejša in najpodrobnejša izjava Vatikana na temo umetne inteligence.

Tokratna papeževa poslanica ob svetovnem dnevu miru je doslej najpomembnejša in najpodrobnejša izjava Vatikana na temo umetne inteligence.