Umjetna inteligencija (UI) označava skup računalnih sustava sposobnih obavljati zadatke koji su se dosad povezivali s ljudskom inteligencijom: prepoznati sliku, prevesti jezik, voziti automobil, sastaviti tekst, dijagnosticirati bolest. U nekoliko godina ti su sustavi iz laboratorija stigli u svakodnevni život milijardi ljudi. Takva moć, koja oponaša neke operacije duha i uvlači se u rad, zdravstvo, informiranje, rat i sve do ljudskih odnosa, nije mogla ostati izvan moralnog pogleda Crkve.
Pred njom Crkva ne odgovara ni fascinacijom religije napretka ni reakcionarnim strahom koji bi odbacio svaki stroj. Njezin stav sažima se u čvrstoj razlici koju postavlja referentni dokument o toj temi, bilješka Antiqua et nova (2025.): UI je alat (zakonit plod inteligencije koju je Bog dao čovjeku), ali ona nije osoba. Njezina je „inteligencija" čisto funkcionalna: ona računa, izvršava, simulira, ali ne misli, ne razumije i ni za što ne odgovara. Mjera sve njezine etike stoga ostaje dostojanstvo ljudske osobe.
Ovo razlučivanje nije pomodni učinak. Papa Lav XIV., izabran u svibnju 2025., izričito je odabrao svoje ime u odnosu na Lava XIII. i Rerum novarum: kao što se Crkva svojom društvenom doktrinom suočila s prvom industrijskom revolucijom, danas mora odgovoriti na novu revoluciju, onu umjetne inteligencije, koja postavlja „nove izazove za obranu ljudskog dostojanstva, pravednosti i rada"[1].
Ovaj članak izlaže katoličku viziju umjetne inteligencije u cjelini: što je UI, zašto je riječ „inteligencija" djelomično obmanjujuća, u čemu je UI dobra i u čemu dvoznačna, koja velika društvena i moralna pitanja otvara, što predlaže učiteljstvo i koji je konačni duhovni rizik. Posebna područja (tvrdnja da se čovjeka preoblikuje strojem, bioetika, digitalne ovisnosti, povezana samoća, istina u medijima) imaju svaki svoj članak: na njih se upućuje bez ponavljanja.
Zašto Crkva govori o umjetnoj inteligenciji?
UI se rado svrstava na stranu inženjera, start-upa ili laboratorija, a ne morala. To je optička pogreška. Način na koji društvo osmišljava, primjenjuje i upravlja svojom tehničkom moći tiče se njegove koncepcije čovjeka, njegove pravednosti prema najslabijima i smisla koji daje napretku. UI je, od početka do kraja, društveno pitanje.
„Društveno pitanje" prvoga reda
Nijedno važno područje postojanja danas ne izmiče UI-ju. Ona odlučuje o načinu na koji se radi (automatizacija, razvrstavanje kandidatura, organizacija rada), na koji se liječi (pomoć u dijagnostici, snimanje), na koji se informira (mediji, mreže, algoritamska preporuka), na koji se sudi (prediktivna pravda, društveno bodovanje, nadzor) i čak na koji se ratuje (autonomno oružje). Antiqua et nova to naglašava: UI „obilježava novu važnu fazu u odnosu čovječanstva prema tehnologiji"[2]. Stvarnost koja utječe na sve te kolektivne odluke više nije jednostavna naprava: postala je civilizacijska činjenica, a time i vlastiti predmet društvene i moralne doktrine Crkve.
Nova industrijska revolucija: od Lava XIII. do Lava XIV.
Kontinuitet je dojmljiv. Godine 1891., pred preokretima prve industrijske revolucije (tvornice, proletarijat, sukob kapitala i rada), Lav XIII. objavio je Rerum novarum, rodni list moderne društvene doktrine[3]. Više od stoljeća kasnije upravo je ta paralela vodila izbor imena Lava XIV., prvog pape izabranog u doba UI-ja:
„Papa Lav XIII. povijesnom enciklikom Rerum novarum obratio se društvenom pitanju u kontekstu prve velike industrijske revolucije; a danas Crkva svima nudi svoje nasljeđe društvene doktrine kako bi odgovorila na drugu industrijsku revoluciju i na razvoje umjetne inteligencije, koji postavljaju nove izazove za obranu ljudskog dostojanstva, pravednosti i rada." Lav XIV., Govor Kardinalskom zboru, 10. svibnja 2025.[4]
UI se dakle ne tretira kao tehnička zanimljivost, nego kao antropološka mutacija razmjera one koja je rodila društvenu doktrinu. To govori o ozbiljnosti koju joj Crkva pridaje.
Promišljanje koje sazrijeva dvadeset godina
Riječ Crkve o UI-ju nije improvizirana. Ukorijenjena je u stoljeću promišljanja o tehnici, od Gaudium et Spes (1965.) do Laudato Si' (2015.), a precizirala se u nizu od 2020.: Rome Call for AI Ethics (Papinska akademija za život, 2020.), Poruka za Svjetski dan mira 2024. u cijelosti posvećena UI-ju, Poruka za Svjetski dan sredstava društvenog priopćavanja 2024., govor pape Franje na G7 (lipanj 2024., prvo obraćanje pape pred jednim G7) i, kao doktrinarno krunjenje, bilješka Antiqua et nova (siječanj 2025.). Ovo ubrzanje pokazuje da je Crkva shvatila hitnost.
Što ovaj članak obrađuje, a što upućuje drugamo
Radi jasnoće, ovaj se članak drži razine načela i velikih društvenih pitanja. Posebna područja obrađuju se zasebno:
- tvrdnja da se čovjeka preoblikuje, „poboljša" ili učini besmrtnim spajanjem sa strojem → transhumanizam;
- manipuliranje živim bićima (genetski inženjering, prokreacija, CRISPR) → bioetika;
- povezani čovjek: ovisnost o ekranima, gubitak stvarnoga, izolacija → ovisnosti, suvremena samoća, istina u medijima;
- opći odnos čovjeka prema njegovoj tehničkoj moći → tehnika i čovjek, čija je ovaj članak posebna primjena.
Ovdje se traži katolički kompas vlastit umjetnoj inteligenciji.
Što je umjetna inteligencija?
Prije prosudbe treba razumjeti i najprije odbaciti slike znanstvene fantastike. Stvarna UI nije ni svjestan elektronički mozak ni zloćudni robot: ona je skup statističkih metoda koje uče iz golemih količina podataka.
„Galaksija" tehnologija, a ne jedna jedina stvar
Papa Franjo već je 2024. upozoravao da se o UI-ju ne smije govoriti kao o bloku:
„Umjetnu inteligenciju stoga treba razumjeti kao galaksiju različitih stvarnosti i ne možemo unaprijed pretpostaviti da će njezin razvoj blagotvorno pridonijeti budućnosti čovječanstva i miru među narodima." Papa Franjo, Poruka za 57. Svjetski dan mira, br. 2 (1. siječnja 2024.)[5]
Konkretno, UI obuhvaća vrlo različite obitelji: sustave koji razvrstavaju (otkriti tumor na rendgenskoj snimci, filtrirati e-poštu), one koji predviđaju (predvidjeti kvar, prijevaru), one koji preporučuju (odabrati sljedeći video) i, od 2022., generativne sustave koji na zahtjev proizvode tekst, slike, glas ili kod. Potonji (veliki jezični modeli popularizirani konverzacijskim agentima) stotinama milijuna ljudi dali su dojam da razgovaraju s inteligentnim strojem.
Uska UI, generativna UI, „opća UI": ne miješati sve
Tri razine valja razlikovati, jer se u javnoj raspravi stalno miješaju:
| Razina | Što je to | Stvarni status |
|---|---|---|
| Uska UI | Sustav treniran za jedan precizan zadatak (igrati šah, prevoditi, prepoznati lice) | Sveprisutna, vrlo učinkovita |
| Generativna UI | Sustav koji proizvodi nov sadržaj (tekst, sliku, glas) oponašanjem statističkih pravilnosti | Rasprostranjena od 2022., u punom zamahu |
| „Opća UI" (AGI) | Hipotetska inteligencija jednaka čovjeku u svim područjima, obdarena sviješću | Ne postoji; projekcija, pa i mit |
Miješanje tih razina znači stvarnim statističkim alatima pripisivati moći inteligencije koja ne postoji i, obrnuto, hraniti neumjerene strahove ili nade. Antiqua et nova upravo poziva na tu trijeznost rječnika.
Što UI čini, a što ne čini
Evo odlučujuće točke, i ona je suptilnija nego što se čini. Sustav UI-ja može proizvesti pjesmu, ali ne zna da piše pjesmu; može „odgovoriti" na pitanje, ali ne razumije ni pitanje ni svoj odgovor. On izračunava najvjerojatniji slijed riječi. Antiqua et nova to izravno formulira:
„Njegove napredne značajke daju UI-ju sofisticirane sposobnosti izvršavanja zadataka, ali ne i sposobnost mišljenja." Antiqua et nova, br. 12[6]
Drugim riječima, UI simulira rezultate inteligencije, a da nema njezin čin. Ta razlika, koja se čini apstraktnom, upravlja svime što slijedi: upravo ona zabranjuje tretirati stroj kao subjekt.
Ljudska inteligencija i „inteligencija" umjetna: odlučujuća razlika
Cijela moralna rasprava o UI-ju igra se na jednoj riječi: inteligencija. Ako se vjeruje da je stroj doista inteligentan (u smislu u kojem je to čovjek), tada više ništa ne sprječava da mu se povjere ljudske odluke, da se za njega veže kao za osobu ili da se sanja o stapanju s njim. Ako se razumije što radikalno dijeli to dvoje, sve postaje jasno. To je srce trećeg dijela Antiqua et nova.
Riječ „inteligencija" djelomično je obmanjujuća
Izraz „umjetna inteligencija" je analogija, a analogija može zavarati. U katoličkoj tradiciji inteligencija nije samo sposobnost rješavanja problema: ona je sposobnost cijele osobe, otvorena istini, dobru, ljepoti i Bogu. Dokument stoga jasno razlikuje dvije uporabe riječi:
„U slučaju ljudskog bića, naime, inteligencija je sposobnost koja se odnosi na osobu u njezinoj cjelovitosti, dok se u slučaju UI-ja ona razumije u funkcionalnom smislu." Antiqua et nova, br. 10[7]
„Inteligencija" stroja mjeri se njegovom sposobnošću obavljanja zadataka; inteligencija čovjeka tiče se onoga što on jest. Ista riječ pokriva dvije stvarnosti različitog reda, a njihovo miješanje prva je zamka.
Ljudska inteligencija je utjelovljena, duhovna i odnosna
Zašto čovjek „misli" ondje gdje stroj samo računa? Zato što njegova inteligencija nije program koji se vrti u praznini: nosi je tijelo, oživljuje duhovna duša i razvija se u odnosima. Čovjek spoznaje svojim tijelom, svojom osjetljivošću, svojim ranjenim i radosnim pamćenjem, svojom slobodom, svojom otvorenošću drugome i Bogu.
„Autentična predanost zahtijeva obuhvaćanje cjelokupnog opsega bića: duhovnog, kognitivnog, utjelovljenog i odnosnog." Antiqua et nova, br. 26[8]
Stroj, „lišen fizičkog tijela", ne poznaje ništa od toga: on se „oslanja na računalno zaključivanje i učenje"[9] i ostaje, kaže tekst, „temeljno ograničen u logičko-matematički okvir"[10]. On može manipulirati znacima ljubavi, boli ili molitve, a da nikada nema njihovo iskustvo. Zato ne može zamijeniti prisutnost prijatelja, njegovatelja ili učitelja.
Stroj računa, on ne misli
Papa Franjo to je sažeo na G7, u namjerno skromnoj formuli:
„Umjetna inteligencija alat je osmišljen za rješavanje problema i funkcionira logičkim slijedom algebarskih operacija." Papa Franjo, Govor na G7, Borgo Egnazia, 14. lipnja 2024.[11]
Slijed algebarskih operacija: to je, u biti, i najdojmljivija UI. Njezina moć dolazi od razmjera (milijarde parametara, oceani podataka), a ne od iskre misli. Posljedica je golema: ono što nije subjekt ne može se smatrati odgovornim, a ono što ne misli ne može odlučivati o dobru.
Dostojanstvo osobe, mjera sve etike UI-ja
Ako UI nije osoba, tada osoba ostaje mjera. Sva katolička etika UI-ja proizlazi iz jednog načela: neotuđivog dostojanstva ljudskog bića, stvorenog na sliku Božju. Ono određuje što je dopušteno, a što nikada nije.
Vrijednost čovjeka ne ovisi o njegovim izvedbama
U kulturi opsjednutoj izvedbom UI riskira da stvori uvjerenje kako čovjek „vrijedi" onoliko koliko proizvodi, računa ili uspijeva. Antiqua et nova čvrsto preokreće tu logiku, i tu se također igra odgovor transhumanizmu:
„Vrijednost osobe ne ovisi o posjedovanju pojedinačnih sposobnosti, kognitivnih i tehnoloških postignuća ili individualnih uspjeha, nego o njezinu nutarnjem dostojanstvu utemeljenom na činjenici da je stvorena na sliku Božju." Antiqua et nova, br. 34[12]
Novorođenče, bolesnik s Alzheimerovom bolešću, osoba s invaliditetom, koje nijedan stroj ne smatra „učinkovitima", posjeduju točno isto dostojanstvo kao znanstvenik ili prvak. Nikakav sustav algoritamskog ocjenjivanja, nikakvo mjerenje „korisnosti", ne može nagristi to dostojanstvo. Upravo njega brani susjedni članak o dostojanstvu ljudske osobe.
Samo je čovjek moralno odgovoran subjekt
Iz dostojanstva proizlazi odgovornost. Stroj može izvršiti uputu, nikada za nju odgovarati pred svojom savješću. Antiqua et nova na tome inzistira: „samo je ljudsko biće doista moralni čimbenik"[13]. Zato je uvijek varljivo i opasno „povjeriti" UI-ju moralnu odluku zamišljajući da ona nosi njezin teret: iza svakog sustava stoje ljudski dizajneri, vlasnici i korisnici koji ostaju odgovorni za njegove učinke. Rome Call od toga čini jedno od svojih načela: „uvijek mora postojati netko tko preuzima odgovornost za ono što stroj čini"[14].
Etika u službi osobe: „algor-etika"
Već je 2020. Papinska akademija za život okupila tehnološke divove (Microsoft, IBM), međunarodne institucije (FAO) i talijansku državu oko utemeljujućeg teksta, Rome Call for AI Ethics, i nove riječi: algor-etika, to jest etika upisana sve do dizajna algoritama. Tekst navodi šest načela koja katolička doktrina prepoznaje kao zahtjeve ljudskog dostojanstva:
| Načelo | Zahtjev |
|---|---|
| Transparentnost | Sustavi UI-ja moraju biti razumljivi |
| Uključivost | Ne diskriminirati nikoga, jer svako ljudsko biće ima isto dostojanstvo |
| Odgovornost | Netko uvijek mora odgovarati za ono što stroj čini |
| Nepristranost | Ne stvarati niti slijediti nepravedne pristranosti |
| Pouzdanost | Sustavi moraju biti sigurni i pouzdani |
| Sigurnost i privatnost | Zaštititi podatke i privatnost osoba |
Ta načela nisu vanjska ograničenja nametnuta tehnici: ona na jeziku inženjera prevode ono što vjera tvrdi o čovjeku[15].
Je li umjetna inteligencija dobra? Dvoznačan alat
Pitanje se stalno ponavlja: treba li se bojati UI-ja? Odgovor Crkve istodobno je nijansiran i čvrst. UI je stvarno dobro, ali dvoznačano dobro, o čijoj uporabi i mjestu koje mu se daje sve ovisi.
Zakonit plod stvorene inteligencije
UI se rađa iz inteligencije koju je Bog povjerio čovjeku da „obradi i čuva" zemlju (Post 2, 15). Osmisliti je, usavršiti je, staviti je u službu općega dobra jest, po sebi, djelo dobro. Antiqua et nova izričito povezuje znanstveno-tehničko istraživanje sa „suradnjom muškarca i žene s Bogom"[16]. Crkva stoga nema nikakve nostalgije za predtehničkim dobom: ona priznaje goleme moguće blagodati UI-ja: u medicini, u istraživanju, u pristupu spoznaji, u pomoći ranjivim osobama.
„Urođeno dostojanstvo svake osobe i bratstvo koje nas povezuje kao članove jedinstvene ljudske obitelji moraju ostati u temelju razvoja novih tehnologija." Papa Franjo, Poruka za Svjetski dan mira 2024., br. 2[17]
Ali nijedna tehnika nije moralno neutralna
Često se čuje da je „tehnika neutralna, sve ovisi o uporabi". To je opasna poluistina. Sustav UI-ja već usmjerava ponašanja: algoritam preporuke nije neutralan u odnosu na pažnju, sustav vrednovanja nije neutralan u odnosu na pravdu, autonomno oružje nije neutralno u odnosu na nasilje. Katekizam to podsjeća za svaku tehniku:
„Iluzorno je zahtijevati moralnu neutralnost znanstvenog istraživanja i njegovih primjena." Katekizam Katoličke Crkve, § 2294[18]
Tvrda da UI nema veze s moralom, to je već zauzimanje moralnoga stajališta, i to najgorega: onoga koje ostavlja slobodan put sirovoj učinkovitosti i interesu jačega.
Rizik jačanja „tehnokratske paradigme"
UI može postati najmoćnijim oruđem onoga što Laudato Si' naziva tehnokratskom paradigmom: tim načinom mišljenja koji stvarnost svodi na ono što se računa, posjeduje i proizvodi[19]. Antiqua et nova upravo upozorava na taj rizik u gospodarskom području:
„Ne možemo dopustiti da tako moćan i nezaobilazan alat kao što je umjetna inteligencija ojača takvu paradigmu." Antiqua et nova, br. 68[20]
Opasnost nije u stroju, nego u pogledu na svijet koji on može nametnuti: svijetu u kojem sve (priroda, rad, informacija, i napokon čovjek) postaje podatak za iskorištavanje. Upravo taj nagib opisuje članak Tehnika i čovjek.
Velika moralna i društvena pitanja koja postavlja UI
U konkretnom se provjerava kompas. Peta dio Antiqua et nova pregledava područja u kojima UI zahvaća dobro osoba. Ovdje se zadržavamo na onima koji su za društveno pitanje najodlučniji.
UI i rad: osloboditi ili isključiti?
Automatizacija može osloboditi čovjeka teških i ponavljajućih poslova, što društveni nauk pozdravlja. Ali može i isključiti: koncentrirati bogatstvo, ukinuti radna mjesta bez novoga stvaranja, pretvoriti radnika u puki privjesak stroja. Antiqua et nova postavlja jasnu granicu:
„ne bismo smjeli težiti da tehnološkim napretkom sve više zamjenjujemo ljudski rad: to bi naškodilo samom čovječanstvu" Antiqua et nova, br. 70[21]
Rad nije samo trošak koji valja optimizirati: on je mjesto dostojanstva, preživljavanja i ostvarenja osobe. Poruka za mir 2024. upozorava da bi se u tehnokratskoj paradigmi „znanje i bogatstvo [mogli] nagomilati u rukama nekolicine"[22], na štetu općega dobra i općega odredišta dobara. Pitanje nije „treba li automatizirati?" nego „u čiju službu?": to je sav smisao nauka o radu naslijeđen iz Rerum novarum.
UI i rat: „nijedan stroj ne bi smio odlučiti oduzeti život"
To je bez sumnje najteža točka. Sustavi autonomnog oružja mogu odabrati i pogoditi cilj bez izravne ljudske intervencije. A odlučivati o životu i smrti čovjeka moralni je čin koji nijedan izračun ne može preuzeti. Papa Franjo to je izričito ponovio na G7:
„Nijedan stroj nikada ne bi smio odlučiti oduzeti život ljudskom biću." Papa Franjo, Govor na G7, 14. lipnja 2024.[23]
Antiqua et nova preuzima isti zahtjev, „Nijedan stroj nikada ne bi smio odlučiti uzeti život ljudskom biću"[24], a Poruka za mir 2024. daje dublji razlog:
„Sustavi autonomnog oružja nikada neće moći biti moralno odgovorni subjekti: isključivo ljudska sposobnost moralnoga prosuđivanja i etičkoga odlučivanja više je od složenoga skupa algoritama." Papa Franjo, Poruka za Svjetski dan mira 2024., br. 6[25]
Otuda poziv na stvarni i trajni ljudski nadzor nad oružjem te na „obvezujući međunarodni ugovor" koji regulira UI[26].
UI, dezinformacija i „deepfakeovi"
Generativna UI omogućuje da se u nekoliko sekundi proizvedu lažne slike, lažni glasovi, lažni govori nerazlučivi od stvarnih: deepfakeovi. Antiqua et nova upozorava da UI „stvara manipulirane sadržaje i lažne informacije koje [...] lako mogu obmanuti"[27]. Poruka za sredstva društvenoga priopćavanja 2024. to zlo naziva „kognitivnim onečišćenjem":
„[Ti alati] mogu biti i sredstva „kognitivnoga onečišćenja", iskrivljavanja stvarnosti pripovijestima koje su djelomično ili potpuno lažne, a koje se vjeruju (i dijele) kao da su istinite." Papa Franjo, Poruka za Svjetski dan sredstava društvenoga priopćavanja 2024.[28]
Ulog nije samo činjenična pogreška: sama povjerenje, cement svakoga zajedničkoga života, potkopava se. Katolički odgovor jednako pripada etici dizajnera kao i odgoju savjesti, tema razrađena u Istina u medijima.
UI i ljudski odnosi: rizik privida
Aplikacije danas nude „prijatelje", „povjerljive osobe", pa i umjetne „suputnike". Opasnost je da se privid uzme za odnos. Antiqua et nova postavlja pravilo:
„[UI] treba smatrati onim što jest: alat, a ne osoba." Antiqua et nova, br. 59[29]
Jer, kaže tekst, „premda UI može simulirati empatijske odgovore, izrazito osobnu i odnosnu narav istinske empatije umjetni sustavi ne mogu reproducirati"[30] : program može oponašati riječi suosjećanja, ali ih nikada ne može proživjeti. A rizik je izričit:
„ako te odnose i odnos s Bogom zamijenimo tehnološkim sredstvima, riskiramo da istinski odnos zamijenimo beživotnim prividom" Antiqua et nova, br. 63[31]
Zamijeniti stroj licem drugoga znači izložiti se dubljoj samoći, onoj koju opisuje članak Suvremena samoća, i koja hrani digitalne ovisnosti.
UI, privatni život i nadzor
UI se hrani podacima, a naši podaci govore tko smo. Antiqua et nova upozorava da ti podaci „ne prenose samo informacije, nego i spoznaje o osobama i odnosima koje [...] mogu postati moć nad pojedincem"[32]. Masovni nadzor, društveno vrednovanje, profiliranje: UI može služiti neviđenoj kontroli savjesti i ponašanja. Poštovanje dostojanstva zahtijeva, kaže Poruka za mir, „odbaciti da se jedinstvenost osobe identificira skupom podataka"[33]. Čovjek se nikada ne može svesti na svoj profil.
UI i zajednički dom
Često se zanemaruje: veliki modeli UI-ja imaju golem ekološki trošak. Njihovo treniranje i djelovanje „zahtijevaju velike količine energije i vode"[34] za napajanje i hlađenje golemih podatkovnih centara. Pitanje UI-ja tako se pridružuje pitanju integralne ekologije i zaštite stvorenja: napredak koji iscrpljuje zajednički dom nije pravi napredak.
UI i odgoj najmlađih
UI može biti sjajan pomoćnik u učenju, ali ne može oblikovati inteligenciju niti prenijeti čovječnost. Antiqua et nova podsjeća da je „bitan zadatak odgoja odgojiti intelekt za ispravno rasuđivanje"[35], što pretpostavlja trud, pamćenje i strpljenje, a ne predaju mišljenja stroju koji „rješava zadaće". Pogotovo, „fizička prisutnost učitelja stvara odnosnu dinamiku koju UI ne može reproducirati"[36]. Odgajati znači buditi osobu po osobi: nijedan algoritamski tutor za to nije dostatan.
Sintezna tablica: obećanje i rizik
Cijelo društveno pitanje UI-ja može se sažeti u mrežu: svako područje nosi obećanje i rizik, a kompas ostaje isti: osoba.
| Područje | Obećanje | Rizik | Katolički kompas |
|---|---|---|---|
| Rad | Osloboditi teških zadataka | Isključiti, koncentrirati bogatstvo | Rad, mjesto dostojanstva (br. 70) |
| Rat | Preciznost, zaštita | Autonomno oružje koje odlučuje ubiti | Nijedan stroj ne bira smrt (br. 100) |
| Informacija | Pristup, prijevod, spoznaja | Deepfakeovi, „kognitivno onečišćenje" | Istina i povjerenje |
| Odnosi | Veza, dostupnost | Privid, izolacija | Drugi je osoba, a ne alat (br. 59) |
| Privatni život | Personalizirane usluge | Nadzor, profiliranje, kontrola | Čovjek nije skup podataka (Mir br. 5) |
| Okoliš | Optimizacija, istraživanje | Energija, voda, ugljični otisak | Integralna ekologija (br. 96) |
| Odgoj | Potpora, dostupnost | Predaja mišljenja | Odgajati osobu po osobi (br. 79-81) |
Odgovor učiteljstva: orijentiri i prijedlozi
Pred tim izazovima Crkva se ne zadovoljava upozoravanjem: nudi orijentire i poziva na djelovanje. Pet orijentira strukturira njezinu nedavnu riječ.
Antiqua et nova (2025.), referentna bilješka
Objavljena 28. siječnja 2025. od Dikasterija za nauk vjere i Dikasterija za kulturu i obrazovanje, Antiqua et nova („stare i nove stvari") je najpotpuniji doktrinarni tekst do danas o UI-ju. U 117 odlomaka utemeljuje razlučivanje na kršćanskoj antropologiji, razlikuje ljudsku i umjetnu inteligenciju i prolazi sva velika društvena pitanja. To je referentni izvor ovoga članka.
Papa Franjo: mir, G7, „mudrost srca"
Godina 2024. donijela je trostruku intervenciju:
- Poruku za mir koja postavlja da UI ne može biti unaprijed smatrana dobrom i zahtijeva da dostojanstvo ostane „u temelju" svakoga razvoja;
- govor na G7, gdje je Franjo, prvi papa pred šefovima država G7, založio za „prostor smislenoga ljudskog nadzora" nad izborima UI-ja, o čemu ovisi „samo ljudsko dostojanstvo"[37];
- Poruku za sredstva društvenoga priopćavanja, koja hladnoći izračuna suprotstavlja „mudrost srca", „tu krepost koja nam omogućuje ispreplesti cjelinu i dijelove"[38].
Rome Call i „algor-etika"
Raniji (2020.), Rome Call for AI Ethics ima zaslugu što je oko Crkve okupio industrijske i međunarodne aktere oko šest konkretnih načela (vidi gore). On pokazuje da katolička doktrina ne odbija tehnički dijalog: ona želi upisati etiku već u oblikovanje sustava.
Poziv na regulaciju
Stalnica je u tim tekstovima: UI se ne smije prepustiti jedinom zakonu tržišta ili moći. Otuda Franjin poziv na „obvezujući međunarodni ugovor koji regulira razvoj i uporabu umjetne inteligencije"[39]. Regulacija nije neprijatelj inovacije: ona je uvjet da inovacija služi čovjeku.
Konačni rizik: učiniti od UI-ja idola
Iznad društvenih pitanja, Antiqua et nova označava dublju pogibelj, duhovnoga reda. Napast, stara koliko i čovjek, da se čovjek učini bogom po vlastitim djelima.
Prometejska napast
Neki pobornici UI-ja ne ustručavaju se govoriti o stvaranju „inteligencije" superiorne čovjeku, o „pobjedi nad smrću", o proizvodnji svijesti. To je, u modernim haljinama, staro idolopoklonstvo. Dokument je nedvosmislen:
„Preuzetnost da se Boga zamijeni djelom vlastitih ruku jest idolopoklonstvo." Antiqua et nova, br. 105[40]
Čovjek koji klanja vlastitoj tehničkoj moći napokon postaje robom svojega idola. Poruka za sredstva društvenoga priopćavanja govori o „zabludi svemogućnosti" iz koje treba probuditi čovjeka[41]. To je upravo teren transhumanizma, koji sanja o ukidanju ljudskoga stanja.
„Postaje li čovjek doista bolji?"
Konačni kriterij napretka, podsjeća Antiqua et nova citirajući svetoga Ivana Pavla II., nije stečena moć nego rast nutarnjega čovjeka: pravo je pitanje znati „je li čovjek [...] doista postaje bolji, to jest duhovno zreliji"[42]. Civilizacija može umnožiti svoje strojeve i nazadovati u čovječnosti. Tehnički napredak samo je ljudski napredak ako čovjeka čini slobodnijim, pravednijim, ljubećim.
Mudrost srca, što je nijedan stroj neće imati
Hladnoj moći izračuna Evanđelje suprotstavlja inteligenciju drugoga reda: mudrost srca, plod Duha, koja zna razlučivati dobro, konkretno ljubiti i pustiti da je Bog zahvati. Ona, a ne izvedba, čini čovjekovu veličinu, i što nijedan sustav, ma kako moćan bio, nikada neće moći reproducirati.
Kako kršćanski živjeti u doba umjetne inteligencije?
Katoličko razlučivanje ne svodi se na načela: ono poziva na način življenja. Nekoliko konkretnih orijentira izvodi se iz tekstova.
Zadržati nadzor, ne predati savjest
Koristiti UI kao alat, da; prepustiti joj svoje odluke, svoje prosuđivanje, svoje mišljenje, ne. Kršćanin ostaje odgovoran za ono što proizvodi, dijeli i vjeruje. Provjeriti izvore, odbiti širiti sumnjiv sadržaj, zadržati kritički duh: to je zahtjev ljubavi prema istini.
Staviti osobe ispred ekrana
Ondje gdje UI nudi simulirane odnose, kršćanin bira stvarne odnose: prisutnost, lice, darovano vrijeme, strpljenje. Borba protiv samoće i digitalnih ovisnosti prolazi kroz svakodnevnu odluku da se živoga drugoga prednost daje pred njegovim algoritamskim odrazom.
Staviti UI u službu najslabijih
Evanđeoski kriterij je stalan: ono što služi „najmanjima", blagoslovljeno je. UI koja liječi, koja uključuje, koja olakšava nevolju siromaha ostvaruje svoje poslanje alata; UI koja nadzire, isključuje ili porobljava, izdaje ga. Razlučivanje se uvijek mjeri prema općem dobru.
Ostati u klanjanju, a ne u fascinaciji
Napokon, najdublji lijek protiv tehničkoga idolopoklonstva je klanjanje istinskom Bogu. Čovjek koji zna komu pripada ne riskira da padne ničice pred vlastitim strojevima. Molitva, sakramentalni život, kontemplacija vraćaju čovjeku pravu mjeru o sebi: ljubljeno stvorenje, a ne stvoritelj vlastita spasenja.
„Osudili bismo čovječanstvo na budućnost bez nade bismo li ljudima oduzeli sposobnost da odlučuju o sebi i o svojem životu, osuđujući ih da ovise o izborima strojeva." Papa Franjo, Govor na G7, 14. lipnja 2024.[43]
Umjetna inteligencija, uzeta za ono što jest (divan i strašan alat), može uvelike služiti čovjeku. Uzeta za ono što nije (osoba, svijest, bog), ona ga ugrožava. Između toga dvojice granica je upravo ona koju Crkva, vjerna svojem poslanju, ne prestaje ponavljati: neotuđivo dostojanstvo ljudske osobe.
Za daljnje čitanje
Glavni izvori: Dikasterij za nauk vjere i Dikasterij za kulturu i obrazovanje, Antiqua et nova (28. siječnja 2025.); papa Franjo, Umjetna inteligencija i mir*, Poruka za 57. Svjetski dan mira (1. siječnja 2024.), govor na G7 (14. lipnja 2024.) i Poruka za 58. Svjetski dan sredstava društvenoga priopćavanja (2024.); Papinska akademija za život,* Rome Call for AI Ethics (28. veljače 2020.); Lav XIV., govor Kardinalskom zboru (10. svibnja 2025.). Službeni tekstovi na vatican.va.
Bilješke i reference
Lav XIV., Govor Kardinalskom zboru, 10. svibnja 2025.: „Papa Lav XIII. povijesnom enciklikom Rerum novarum obratio se društvenom pitanju u kontekstu prve velike industrijske revolucije; a danas Crkva svima nudi svoje nasljeđe društvene doktrine kako bi odgovorila na drugu industrijsku revoluciju i na razvoje umjetne inteligencije, koji postavljaju nove izazove za obranu ljudskog dostojanstva, pravednosti i rada." Službeni tekst na vatican.va.
1 4Dikasterij za nauk vjere i Dikasterij za kulturu i obrazovanje, Antiqua et nova. Bilješka o odnosu umjetne inteligencije i ljudske inteligencije, 28. siječnja 2025., br. 4: UI „obilježava novu važnu fazu u odnosu čovječanstva prema tehnologiji". Tekst na vatican.va.
2Lav XIII., Rerum novarum, 15. svibnja 1891.: prva društvena enciklika, o radničkom stanju pred industrijskom revolucijom. Vidjeti članak Rerum novarum.
3Papa Franjo, Umjetna inteligencija i mir, Poruka za 57. Svjetski dan mira, 1. siječnja 2024. (datirana 8. prosinca 2023.), br. 2: „Umjetnu inteligenciju stoga treba razumjeti kao galaksiju različitih stvarnosti i ne možemo unaprijed pretpostaviti da će njezin razvoj blagotvorno pridonijeti budućnosti čovječanstva i miru među narodima." Tekst na vatican.va.
5Antiqua et nova, br. 12: „Njegove napredne značajke daju UI-ju sofisticirane sposobnosti izvršavanja zadataka, ali ne i sposobnost mišljenja."
6Antiqua et nova, br. 10: „U slučaju ljudskog bića, naime, inteligencija je sposobnost koja se odnosi na osobu u njezinoj cjelovitosti, dok se u slučaju UI-ja ona razumije u funkcionalnom smislu."
7Antiqua et nova, br. 26: „Autentična predanost zahtijeva obuhvaćanje cjelokupnog opsega bića: duhovnog, kognitivnog, utjelovljenog i odnosnog."
8Antiqua et nova, br. 31: UI, „lišena fizičkog tijela, oslanja se na računalno zaključivanje i učenje".
9Antiqua et nova, br. 31: „premda UI obrađuje i simulira neke izraze inteligencije, ona ostaje temeljno ograničena u logičko-matematički okvir".
10Papa Franjo, Govor na sjednici G7 o umjetnoj inteligenciji, Borgo Egnazia (Apulija), 14. lipnja 2024.: „Umjetna inteligencija alat je osmišljen za rješavanje problema i funkcionira logičkim slijedom algebarskih operacija." Prvi papa koji se obratio G7. Tekst na vatican.va.
11Antiqua et nova, br. 34: „vrijednost osobe ne ovisi o posjedovanju pojedinačnih sposobnosti, kognitivnih i tehnoloških postignuća ili individualnih uspjeha, nego o njezinu nutarnjem dostojanstvu utemeljenom na činjenici da je stvorena na sliku Božju".
12Antiqua et nova, br. 39: „samo je ljudsko biće doista moralni čimbenik", to jest moralno odgovoran subjekt.
13Papinska akademija za život / Zaklada RenAIssance, Rome Call for AI Ethics, Rim, 28. veljače 2020., načelo odgovornosti: „uvijek mora postojati netko tko preuzima odgovornost za ono što stroj čini" (hrv. prijevod od « there must always be someone who takes responsibility for what a machine does »).
14Rome Call for AI Ethics, 28. veljače 2020.: šest načela (transparency, inclusion, responsibility, impartiality, reliability, security and privacy), sažetih neologizmom algorethics („algor-etika"). Prvotni potpisnici: Papinska akademija za život, Microsoft, IBM, FAO, talijansko Ministarstvo inovacije. Tekst na romecall.org i vatican.va.
15Antiqua et nova, br. 37: znanstveno istraživanje i razvoj tehničkih sposobnosti dio su „suradnje muškarca i žene s Bogom kako bi se vidljivo stvorenje dovelo do savršenstva".
16Papa Franjo, Poruka za Svjetski dan mira 2024., br. 2: „Urođeno dostojanstvo svake osobe i bratstvo koje nas povezuje kao članove jedinstvene ljudske obitelji moraju ostati u temelju razvoja novih tehnologija."
17Katekizam Katoličke Crkve, § 2294: „Iluzorno je zahtijevati moralnu neutralnost znanstvenog istraživanja i njegovih primjena."
18Papa Franjo, Laudato Si', 24. svibnja 2015., br. 106: opis „tehnokratske paradigme" kao „homogene i jednodimenzionalne paradigme" primijenjene na svu stvarnost. Vidjeti Tehnika i čovjek.
19Antiqua et nova, br. 68: upozorenje protiv jačanja tehnokratske paradigme u gospodarskom i radnom području: „ne možemo dopustiti da tako moćan i nezaobilazan alat kao što je umjetna inteligencija ojača takvu paradigmu, nego moramo upravo od umjetne inteligencije načiniti bedem protiv njezina širenja".
20Antiqua et nova, br. 70, citirajući Franju, Laudato si', br. 128: „ne bismo smjeli težiti da tehnološkim napretkom sve više zamjenjujemo ljudski rad: to bi naškodilo samom čovječanstvu".
21Papa Franjo, Poruka za mir 2024., br. 4: u tehnokratskoj paradigmi „nejednakosti bi mogle neprimjereno rasti, znanje i bogatstvo nagomilati u rukama nekolicine, s ozbiljnim rizicima za demokratska društva i miroljubiv suživot".
22Papa Franjo, Govor na G7, 14. lipnja 2024.: „Nijedan stroj nikada ne bi smio odlučiti oduzeti život ljudskom biću." (Za razlikovati od paralelne formulacije u Antiqua et nova br. 100, koja kaže „uzeti život".)
23Antiqua et nova, br. 100: „Nijedan stroj nikada ne bi smio odlučiti uzeti život ljudskom biću." O smrtonosnim autonomnim oružanim sustavima, lišenima „isključivo ljudske sposobnosti moralnoga prosuđivanja".
24Papa Franjo, Poruka za mir 2024., br. 6: „Sustavi autonomnog oružja nikada neće moći biti moralno odgovorni subjekti: isključivo ljudska sposobnost moralnoga prosuđivanja i etičkoga odlučivanja više je od složenoga skupa algoritama."
25Papa Franjo, Poruka za mir 2024., br. 8: poziv na „primjeren, smislen i dosljedan ljudski nadzor oružanih sustava" i na usvajanje „obvezujućeg međunarodnog ugovora" o UI-ju.
26Antiqua et nova, br. 86: UI „stvara manipulirane sadržaje i lažne informacije koje, budući da ih je vrlo teško razlikovati od stvarnih podataka, lako mogu obmanuti".
27Papa Franjo, Umjetna inteligencija i mudrost srca: za potpuno ljudsku komunikaciju, Poruka za 58. Svjetski dan sredstava društvenoga priopćavanja 2024.: „[Ti alati] mogu biti i sredstva „kognitivnoga onečišćenja", iskrivljavanja stvarnosti pripovijestima koje su djelomično ili potpuno lažne, a koje se vjeruju (i dijele) kao da su istinite." Tekst na vatican.va.
28Antiqua et nova, br. 59: „[UI] treba smatrati onim što jest: alat, a ne osoba."
29Antiqua et nova, br. 61: „premda UI može simulirati empatijske odgovore, izrazito osobnu i odnosnu narav istinske empatije umjetni sustavi ne mogu reproducirati".
30Antiqua et nova, br. 63: „ako te odnose i odnos s Bogom zamijenimo tehnološkim sredstvima, riskiramo da istinski odnos zamijenimo beživotnim prividom".
31Antiqua et nova, br. 90: podaci „ne prenose samo informacije, nego i spoznaje o osobama i odnosima koje, u sve više digitaliziranu kontekstu, mogu postati moć nad pojedincem".
32Papa Franjo, Poruka za mir 2024., br. 5: „Temeljito poštovanje ljudskog dostojanstva pretpostavlja odbaciti da se jedinstvenost osobe identificira skupom podataka."
33Antiqua et nova, br. 96: veliki modeli UI-ja „zahtijevaju velike količine energije i vode" za svoje treniranje i djelovanje te znatno pridonose emisijama CO2.
34Antiqua et nova, br. 81: „bitan zadatak odgoja jest odgojiti intelekt za ispravno rasuđivanje u svim stvarima, težiti istini i zahvatiti je".
35Antiqua et nova, br. 79: „Fizička prisutnost učitelja stvara odnosnu dinamiku koju UI ne može reproducirati."
36Papa Franjo, Govor na G7, 14. lipnja 2024.: „Moramo zajamčiti i zaštititi prostor smislenoga ljudskog nadzora nad procesom izbora programa umjetne inteligencije: od toga ovisi samo ljudsko dostojanstvo."
37Papa Franjo, Poruka za sredstva društvenoga priopćavanja 2024.: „Mudrost srca stoga je krepost koja nam omogućuje ispreplesti cjelinu i dijelove, odluke i njihove posljedice, visine i krhkosti, prošlost i budućnost, ja i mi."
38Papa Franjo, Poruka za mir 2024., br. 8: „Pozivam Zajednicu naroda da zajedno rade na usvajanju obvezujućeg međunarodnog ugovora koji regulira razvoj i uporabu umjetne inteligencije u njezinim različitim oblicima."
39Antiqua et nova, br. 105: „preuzetnost da se Boga zamijeni djelom vlastitih ruku jest idolopoklonstvo".
40Papa Franjo, Poruka za sredstva društvenoga priopćavanja 2024.: riječ je o „buđenju čovjeka iz hipnoze u koju pada zbog svoje zablude svemoći, vjerujući da je potpuno autonomni i samoreferencijalni subjekt, odvojen od svake društvene veze i zaboravan na svoj status stvorenja".
41Antiqua et nova, br. 109, citirajući Ivana Pavla II., Redemptor hominis (1979.), br. 15: bitno pitanje napretka jest znati „je li čovjek [...] doista postaje bolji, to jest duhovno zreliji".
42Papa Franjo, Govor na G7, 14. lipnja 2024.: „Osudili bismo čovječanstvo na budućnost bez nade bismo li ljudima oduzeli sposobnost da odlučuju o sebi i o svojem životu, osuđujući ih da ovise o izborima strojeva."
43