Umělá inteligence a katolická doktrína

Co říká katolická Církev o umělé inteligenci? UI je mocný a ambivalentní nástroj, oprávněný plod stvořené inteligence, ale není osobou: počítá, nemyslí. Jejím měřítkem zůstává důstojnost člověka. Nóta Antiqua et nova (2025) rozlišuje lidskou inteligenci od UI a vymezuje velké sociální otázky: práci, autonomní zbraně, dezinformace, vztahy, soukromí.

Ignispedia

Umělá inteligence (UI) označuje soubor informatických systémů schopných vykonávat úkoly, které se dosud spojovaly s lidskou inteligencí: rozpoznat obraz, přeložit jazyk, řídit auto, napsat text, diagnostikovat nemoc. Během několika let tyto systémy přešly z laboratoří do každodenního života miliard lidí. Taková moc, která napodobuje některé operace mysli a proniká do práce, zdraví, informací, války až po lidské vztahy, nemohla zůstat mimo morální pohled Církve.

Církev na ni neodpovídá ani fascinací náboženstvím pokroku, ani reakčním strachem, který by odmítal každý stroj. Její postoj stojí na pevném rozlišení, které přináší referenční dokument v této oblasti, nóta Antiqua et nova (2025): UI je nástroj (oprávněný plod inteligence, kterou Bůh dal člověku), ale není osobou. Její „inteligence“ je čistě funkční: počítá, vykonává, simuluje, ale nemyslí, nerozumí a za nic neodpovídá. Měřítkem celé její etiky proto zůstává důstojnost lidské osoby.

Toto rozlišování není módní efekt. Papež Lev XIV., zvolený v květnu 2025, si výslovně vybral jméno s odkazem na Lva XIII. a Rerum novarum: tak jako Církev čelila první průmyslové revoluci svou sociální naukou, musí dnes odpovědět na novou revoluci, revoluci UI, která přináší „nové výzvy pro obranu lidské důstojnosti, spravedlnosti a práce“[1].

Tento článek představuje katolickou vizi umělé inteligence jako celek: co je UI, proč je slovo „inteligence“ částečně zavádějící, v čem je UI dobrá a v čem ambivalentní, jaké velké sociální a morální otázky vyvolává, co navrhuje magisterium a jaké je nejhlubší duchovní riziko. Zvláštní terény (snaha přetvořit člověka strojem, bioetika, digitální závislosti, propojená osamělost, pravda v médiích) mají každý svůj článek: odkazujeme na ně bez opakování.

Proč Církev mluví o umělé inteligenci?

UI se ráda řadí na stranu inženýra, startupu nebo laboratoře, a ne morálky. To je optický omyl. Způsob, jakým společnost navrhuje, nasazuje a řídí svou technickou moc, se týká jejího pojetí člověka, její spravedlnosti vůči nejslabším a smyslu, který dává pokroku. UI je skrz naskrz sociální otázkou.

Prvořadá „sociální otázka“

Žádná významná oblast existence dnes UI neuniká. Rozhoduje o tom, jak pracujeme (automatizace, třídění uchazečů, organizace práce), jak se léčíme (pomoc při diagnostice, zobrazování), jak se informujeme (média, sítě, algoritmické doporučování), jak jsme souzeni (prediktivní justice, sociální skórování, dohled) a dokonce jak vedeme válku (autonomní zbraně). Antiqua et nova to zdůrazňuje: UI „znamená novou významnou fázi ve vztahu lidstva k technologii“[2]. Realita, která doléhá na všechny tyto kolektivní volby, už není pouhým gadgetem: stala se civilizačním faktem, a tedy vlastním předmětem sociální a morální nauky Církve.

Nová průmyslová revoluce: od Lva XIII. k Lvu XIV.

Kontinuita je nápadná. V roce 1891, tváří v tvář otřesům první průmyslové revoluce (továrny, proletariát, konflikt kapitálu a práce), Lev XIII. vydal Rerum novarum, rodný list moderní sociální nauky[3]. O více než století později právě tato paralela vedla volbu jména Lva XIV., prvního papeže zvoleného ve věku UI:

„Papež Lev XIII. se v historické encyklice Rerum novarum zabýval sociální otázkou v kontextu první velké průmyslové revoluce; a dnes Církev nabízí všem své dědictví sociální nauky, aby odpověděla na další průmyslovou revoluci a na vývoj umělé inteligence, který přináší nové výzvy pro obranu lidské důstojnosti, spravedlnosti a práce.“ Lev XIV., projev ke Kolegiu kardinálů, 10. května 2025[4]

Lev XIII., autor Rerum novarum (1891). Fotografie Cane, uveřejněná v Munsey's Magazine v roce 1898, Wikimedia Commons, volné dílo.

UI se tedy nebere jako technická kuriozita, ale jako antropologická mutace rozsahu té, která zrodila sociální nauku. To vypovídá o vážnosti, kterou jí Církev přikládá.

Úvaha, která zraje dvacet let

Slovo Církve o UI není improvizované. Kořeny má ve století úvah o technice, od Gaudium et Spes (1965) po Laudato Si' (2015), a upřesnilo se v kaskádě od roku 2020: Rome Call for AI Ethics (Papežská akademie pro život, 2020), Poselství ke Světovému dni míru 2024 věnované celé UI, Poselství ke Světovému dni sdělovacích prostředků 2024, projev papeže Františka na G7 (červen 2024, první vystoupení papeže před G7) a jako doktrinální dovršení nóta Antiqua et nova (leden 2025). Toto zrychlení ukazuje, že Církev pochopila naléhavost.

Co tento článek řeší a co odkazuje jinam

Abychom zůstali jasní, tento článek se drží úrovně principů a velkých sociálních otázek. Zvláštní terény se řeší samostatně:

  • snaha přetvořit člověka, „vylepšit“ ho nebo učinit nesmrtelným splynutím se strojem → transhumanismus;
  • manipulace živého (genetické inženýrství, plození, CRISPR) → bioetika;
  • propojený člověk: závislost na obrazovkách, ztráta reálného, izolace → závislosti, moderní osamělost, pravda v médiích;
  • obecný vztah člověka k jeho technické moci → technika a člověk, jehož je tento článek zvláštní aplikací.

Zde hledáme katolický kompas vlastní umělé inteligenci.

Co je umělá inteligence?

Hlavní rodiny umělé inteligence a jejich skutečný status. Původní infografika Ignispedia vytvořená umělou inteligencí.

Před souzením je třeba rozumět a nejprve se zbavit sci-fi obrazů. Skutečná UI není ani vědomý elektronický mozek, ani zlomyslný robot: je to soubor statistických metod, které se učí z obrovských množství dat.

„Galaxie“ technologií, ne jedna věc

Papež František již v roce 2024 varoval, že o UI se nemá mluvit jako o jednom bloku:

„Umělou inteligenci je proto třeba chápat jako galaxii různých realit a nemůžeme a priori předpokládat, že její vývoj prospěšně přispěje k budoucnosti lidstva a k míru mezi národy.“ Papež František, Poselství k 57. Světovému dni míru, č. 2 (1. ledna 2024)[5]

Konkrétně UI pokrývá velmi různé rodiny: systémy, které klasifikují (odhalit nádor na rentgenu, filtrovat e-mail), ty, které předpovídají (předvídat poruchu, podvod), ty, které doporučují (vybrat další video), a od roku 2022 generativní systémy, které na požádání produkují text, obrazy, hlas nebo kód. Ty poslední (velké jazykové modely zpopularizované konverzačními agenty) daly stovkám milionů lidí dojem, že mluví s inteligentním strojem.

Úzká UI, generativní UI, „obecná UI“: nezaměňovat vše

Je třeba rozlišovat tři úrovně, protože ve veřejné debatě se neustále zaměňují:

ÚroveňCo to jeSkutečný status
Úzká UISystém trénovaný na jednu přesnou úlohu (hrát šachy, překládat, rozpoznávat obličej)Všudypřítomná, velmi výkonná
Generativní UISystém, který produkuje nový obsah (text, obraz, hlas) napodobováním statistických pravidelnostíRozšířená od roku 2022, v plném rozmachu
„Obecná UI“ (AGI)Hypotetická inteligence rovná člověku ve všech oblastech, obdařená vědomímNeexistuje; projekce, ba mýtus

Zaměňovat tyto úrovně znamená připisovat skutečným statistickým nástrojům schopnosti inteligence, která neexistuje, a naopak živit nepřiměřené obavy nebo naděje. Antiqua et nova vybízí právě k této střízlivosti slovníku.

Co UI dělá a co nedělá

Zde je rozhodující bod, a je jemnější, než se zdá. Systém UI může vytvořit báseň, ale neví, že píše báseň; může „odpovědět“ na otázku, ale nerozumí ani otázce, ani své odpovědi. Počítá nejpravděpodobnější pokračování slov. Antiqua et nova to formuluje bez okolků:

„Její pokročilé charakteristiky dávají UI sofistikované schopnosti vykonávat úkoly, ale ne schopnost myslet.“ Antiqua et nova, č. 12[6]

Jinými slovy, UI simuluje výsledky inteligence bez jejího aktu. Toto rozlišení, které se zdá abstraktní, řídí vše další: právě ono zakazuje zacházet se strojem jako se subjektem.

Lidská inteligence a „inteligence“ umělá: rozhodující rozlišení

Celá morální debata o UI se hraje na jednom slově: inteligence. Pokud věříme, že stroj je opravdu inteligentní (ve smyslu, v jakém je inteligentní člověk), pak už nic nebrání svěřit mu lidská rozhodnutí, připoutat se k němu jako k osobě nebo snít o splynutí s ním. Pokud pochopíme, co obě radikálně odděluje, vše se vyjasní. Je to srdce třetí části Antiqua et nova.

Slovo „inteligence“ je částečně zavádějící

Pojem „umělá inteligence“ je analogie, a analogie může svádět. V katolické tradici inteligence není jen schopnost řešit problémy: je to schopnost celé osoby, otevřená pravdě, dobru, kráse a Bohu. Dokument proto jasně rozlišuje dvě užití slova:

„V případě člověka je totiž inteligence schopností vztahující se k osobě v její celistvosti, zatímco v případě UI se chápe ve funkčním smyslu.“ Antiqua et nova, č. 10[7]

„Inteligence“ stroje se měří jeho schopností vykonávat úkoly; inteligence člověka se dotýká toho, čím je. Totéž slovo pokrývá dvě reality různého řádu a jejich záměna je první pastí.

Lidská inteligence je vtělená, duchovní a vztahová

Proč člověk „myslí“ tam, kde stroj pouze počítá? Protože jeho inteligence není program běžící ve vakuu: nese ji tělo, oživuje duchovní duše a rozvíjí se ve vztazích. Člověk poznává svým tělem, citlivostí, zraněnou i radostnou pamětí, svobodou, otevřeností vůči druhému a Bohu.

„Autentické úsilí vyžaduje obsáhnout celý rozsah bytí: duchovní, kognitivní, vtělený a vztahový.“ Antiqua et nova, č. 26[8]

Stroj, „bez fyzického těla“, z toho nezná nic: „opírá se o výpočetní uvažování a učení“[9] a zůstává, říká text, „zásadně uzavřený v logicko-matematickém rámci“[10]. Může manipulovat znaky lásky, bolesti nebo modlitby, aniž by z nich měl zkušenost. Proto nemůže nahradit přítomnost přítele, ošetřovatele nebo učitele.

Stroj počítá, nemyslí

Papež František to shrnul na G7 ve vědomě skromné formuli:

„Umělá inteligence je nástroj navržený k řešení problému a funguje logickým řetězcem algebraických operací.“ Papež František, projev na G7, Borgo Egnazia, 14. června 2024[11]

Logický řetězec algebraických operací: to je v základu i ta nejpůsobivější UI. Její moc pochází z měřítka (miliardy parametrů, oceány dat), ne z jiskry myšlení. Důsledek je obrovský: co není subjekt, nemůže být považováno za odpovědné, a co nemyslí, nemůže rozhodovat o dobru.

Důstojnost osoby, míra celé etiky UI

Totéž slovo pokrývá dvě reality různého řádu: osobu a funkční nástroj. Původní infografika Ignispedia vytvořená umělou inteligencí.

Pokud UI není osobou, osoba zůstává měřítkem. Celá katolická etika UI vyplývá z jediného principu: nezcizitelné důstojnosti člověka, stvořeného k obrazu Božímu. Ona stanoví, co je dovoleno a co nikdy ne.

Hodnota člověka nezávisí na výkonu

V kultuře posedlé výkonem UI hrozí, že člověk uvěří, že „má hodnotu“ podle toho, co vyprodukuje, vypočítá nebo dokáže. Antiqua et nova tuto logiku pevně obrací, a zde se hraje i odpověď na transhumanismus:

„Hodnota osoby nezávisí na vlastnictví jednotlivých schopností, kognitivních a technologických úspěchů ani individuálních výsledků, ale na její vnitřní důstojnosti založené na tom, že je stvořena k obrazu Božímu.“ Antiqua et nova, č. 34[12]

Novorozenec, nemocný s Alzheimerovou chorobou, osoba se zdravotním postižením, které žádný stroj nepovažuje za „výkonné“, mají přesně tutéž důstojnost jako vědec nebo šampion. Žádný systém algoritmického hodnocení, žádné měření „užitečnosti“ nemůže tuto důstojnost narušit. Právě ji brání sousední článek o důstojnosti lidské osoby.

Pouze člověk je morálně odpovědný subjekt

Z důstojnosti vyplývá odpovědnost. Stroj může vykonat pokyn, nikdy za něj neodpovídá před svým svědomím. Antiqua et nova na tom trvá: „pouze člověk je skutečně morálním činitelem“[13]. Proto je vždy iluzorní a nebezpečné „svěřit“ UI morální rozhodnutí a představovat si, že nese jeho váhu: za každým systémem stojí lidští navrhovatelé, vlastníci a uživatelé, kteří zůstávají odpovědní za jeho účinky. Rome Call z toho činí jeden ze svých principů: „vždy musí existovat někdo, kdo přebírá odpovědnost za to, co stroj dělá“[14].

Etika ve službě osoby: „algor-etika“

Již v roce 2020 Papežská akademie pro život shromáždila technologické giganty (Microsoft, IBM), mezinárodní instituce (FAO) a italský stát kolem zakládajícího textu, Rome Call for AI Ethics, a nového slova: algor-etika, tedy etika zapsaná až do návrhu algoritmů. Text uvádí šest principů, které katolická nauka uznává jako požadavky lidské důstojnosti:

PrincipPožadavek
TransparentnostSystémy UI musí být srozumitelné
InkluzeNediskriminovat nikoho, protože každý člověk má tutéž důstojnost
OdpovědnostNěkdo musí vždy odpovídat za to, co stroj dělá
NestrannostNevytvářet ani nenásledovat nespravedlivé předsudky
SpolehlivostSystémy musí být bezpečné a spolehlivé
Bezpečnost a soukromíChránit údaje a intimitu osob
Transparentnost, inkluze, odpovědnost, nestrannost, spolehlivost, bezpečnost a soukromí. Původní infografika Ignispedia vytvořená umělou inteligencí.

Tyto principy nejsou vnějšími omezeními vnucovanými technice: překládají do jazyka inženýrů to, co víra tvrdí o člověku[15].

Je umělá inteligence dobrá? Ambivalentní nástroj

Jedna otázka se neustále vrací: je třeba se UI bát? Odpověď Církve je nuancovaná a zároveň pevná. UI je skutečné dobro, ale ambivalentní dobro, u něhož vše závisí na použití a místě, které jí dáme.

Oprávněný plod stvořené inteligence

UI se rodí z inteligence, kterou Bůh svěřil člověku, aby „obdělával a střežil“ zemi (Gn 2,15). Navrhovat ji, zdokonalovat a dávat do služby společného dobra je samo o sobě dobré dílo. Antiqua et nova výslovně spojuje vědecký a technický výzkum se „spoluprací muže a ženy s Bohem“[16]. Církev tedy nemá žádnou nostalgii po předtechnickém věku: uznává obrovské možné přínosy UI: v medicíně, ve výzkumu, v přístupu k poznání, v pomoci zranitelným osobám.

„Vnitřní důstojnost každé osoby a bratrství, které nás spojuje jako členy jediné lidské rodiny, musí zůstat základem vývoje nových technologií.“ Papež František, Poselství ke Světovému dni míru 2024, č. 2[17]

Ale žádná technika není morálně neutrální

Často se slýchá, že „technika je neutrální, vše závisí na použití“. To je nebezpečná polopravda. Systém UI již usměrňuje chování: doporučovací algoritmus není neutrální vůči pozornosti, systém hodnocení není neutrální vůči spravedlnosti, autonomní zbraň není neutrální vůči násilí. Katechismus to připomíná pro veškerou techniku:

„Je iluzorní nárokovat si morální neutralitu vědeckého výzkumu a jeho aplikací.“ Katechismus katolické církve, § 2294[18]

Tvrdit, že UI nemá nic společného s morálkou, již znamená zaujmout morální postoj, ten nejhorší, který ponechává volné pole hrubé efektivitě a zájmu silnějšího.

Riziko posílení „technokratického paradigmatu“

UI se může stát nejmocnějším nástrojem toho, co Laudato Si' nazývá technokratickým paradigmatem: mentalitou, která redukuje realitu na to, co se dá vypočítat, vlastnit a vyrobit[19]. Antiqua et nova před tímto rizikem varuje právě v ekonomické oblasti:

„Nemůžeme dovolit, aby tak mocný a nepostradatelný nástroj, jakým je umělá inteligence, posiloval takové paradigma.“ Antiqua et nova, č. 68[20]

Nebezpečí není stroj, ale vize světa, kterou může vnutit: svět, kde se vše (příroda, práce, informace a nakonec člověk) stává údajem k vykorisťování. Přesně tento sklon popisuje článek Technika a člověk.

Velké morální a sociální otázky, které UI přináší

Pět oblastí, kde technický pokrok musí zůstat podřízen lidské důstojnosti. Původní infografika Ignispedia vytvořená umělou inteligencí.

Právě v konkrétnosti se kompas ověřuje. Pátá část Antiqua et nova prochází oblasti, kde UI zasahuje dobro osob. Zde si ponecháváme ty nejrozhodující pro sociální otázku.

UI a práce: osvobodit, nebo vyloučit?

Automatizace může osvobodit člověka od těžkých a opakujících se úkolů, což je dobro, které sociální nauka zdraví. Ale může i vylučovat: koncentrovat bohatství, rušit pracovní místa bez vytváření nových, měnit pracovníka v pouhý přívěsek stroje. Antiqua et nova stanoví jasnou hranici:

„neměli bychom se snažit stále více nahrazovat lidskou práci technologickým pokrokem: škodilo by to samotnému lidstvu“ Antiqua et nova, č. 70[21]

Práce není jen náklad k optimalizaci: je místem důstojnosti, živobytí a uskutečnění osoby. Poselství k míru 2024 varuje, že v technokratickém paradigmatu by se „poznání a bohatství [mohly] hromadit v rukou několika málo lidí“[22], na úkor společného dobra a univerzálního určení statků. Otázka není „je třeba automatizovat?“, ale „ve službě koho?“: to je celý smysl nauky o práci zděděné po Rerum novarum.

UI a válka: „žádný stroj by nikdy neměl volit, že vezme život“

Je to zřejmě nejzávažnější bod. Systémy autonomních zbraní mohou vybrat a zasáhnout cíl bez přímého lidského zásahu. Rozhodnout o životě nebo smrti člověka je však morální akt, který žádný výpočet nemůže převzít. Papež František to na G7 zdůraznil:

„Žádný stroj by nikdy neměl volit, že vezme život lidské bytosti.“ Papež František, projev na G7, 14. června 2024[23]

Antiqua et nova opakuje tentýž požadavek, „Žádný stroj by nikdy neměl volit, že vezme život lidské bytosti“[24], a Poselství k míru 2024 uvádí jeho hluboký důvod:

Algoritmická pomoc nemůže zrušit lidskou morální odpovědnost. Původní infografika Ignispedia vytvořená umělou inteligencí.

„Systémy autonomních zbraní nikdy nebudou moci být morálně odpovědnými subjekty: výlučná lidská schopnost morálního úsudku a etického rozhodování je více než složitý soubor algoritmů.“ Papež František, Poselství k míru 2024, č. 6[25]

Papež František na G7 v Borgo Egnazia, 14. června 2024. Foto European Union, Wikimedia Commons, opětovné použití povoleno s uvedením © Evropská unie, 1998–2026.

Z toho vyplývá výzva ke skutečnému a trvalému lidskému dohledu nad zbraněmi a k „závazné mezinárodní smlouvě“ regulující UI[26].

UI, dezinformace a „deepfakes“

Generativní UI umožňuje během několika sekund vyrobit falešné obrazy, falešné hlasy, falešné projevy nerozeznatelné od pravých: deepfakes. Antiqua et nova upozorňuje, že UI „generuje manipulovaný obsah a nepravdivé informace, které [...] mohou snadno uvést v omyl“[27]. Poselství ke dni sdělovacích prostředků 2024 nazývá toto zlo „kognitivním znečištěním“:

„[Tyto nástroje] mohou být i nástroji „kognitivního znečištění“, pozměňování reality částečně nebo úplně nepravdivými vyprávěními, kterým se věří (a která se sdílejí), jako by byla pravdivá.“ Papež František, Poselství ke Světovému dni sdělovacích prostředků 2024[28]

V sázce není jen faktická chyba: podkopává se samotná důvěra, cement každého společného života. Katolická odpověď patří stejně etice navrhovatelů jako formaci svědomí, tématu rozvinutému v Pravda v médiích.

UI a lidské vztahy: riziko napodobeniny

Aplikace dnes nabízejí umělé „přátele“, „důvěrníky“, ba „společníky“. Nebezpečí je brát napodobeninu za vztah. Antiqua et nova stanoví pravidlo:

„[UI] je třeba považovat za to, čím je: za nástroj, a ne za osobu.“ Antiqua et nova, č. 59[29]

Neboť, říká text, „Přestože UI může simulovat empatické odpovědi, výrazně osobní a vztahová povaha autentické empatie nemůže být reprodukována umělými systémy“[30]: program může napodobit slova soucitu, nikdy ho prožít. A riziko je výslovné:

„pokud tyto vztahy a vztah k Bohu nahradíme technologickými prostředky, riskujeme, že autentický vztah nahradíme napodobeninou bez života“ Antiqua et nova, č. 63[31]

Nahradit strojem tvář druhého znamená vystavit se ještě hlubší osamělosti, té, kterou popisuje článek Moderní osamělost a která živí digitální závislosti.

UI, soukromí a dohled

UI se živí údaji a naše údaje říkají, kdo jsme. Antiqua et nova varuje, že tyto údaje „nepřenášejí jen informace, ale i osobní a vztahové poznatky, které [...] se mohou stát mocí nad jednotlivcem“[32]. Masový dohled, sociální hodnocení, profilování: UI může sloužit bezprecedentní kontrole svědomí a chování. Úcta k důstojnosti vyžaduje, říká Poselství k míru, „odmítnout, aby jedinečnost osoby byla ztotožněna se souborem údajů“[33]. Člověk nikdy není redukovatelný na svůj profil.

UI a společný domov

Často se zapomíná: velké modely UI mají značné ekologické náklady. Jejich trénování a provoz „vyžadují velká množství energie a vody“[34] k napájení a chlazení obrovských datových center. Otázka UI se tak spojuje s otázkou integrální ekologie a ochrany stvoření: pokrok, který vyčerpává společný domov, není skutečným pokrokem.

UI a vzdělávání nejmladších

UI může být vynikajícím pomocníkem při učení, ale nemůže formovat inteligenci ani předávat lidskost. Antiqua et nova připomíná, že „podstatným úkolem vzdělávání je formovat intelekt, aby dobře uvažoval“[35], což předpokládá úsilí, paměť a trpělivost, a ne svěřování myšlení stroji, který „dělá domácí úkoly“. Především „fyzická přítomnost učitele vytváří vztahovou dynamiku, kterou UI nedokáže reprodukovat“[36]. Vzdělávat znamená probouzet osobu jinou osobou: žádný algoritmický tutor na to nestačí.

Souhrnná tabulka: příslib a riziko

Celou sociální otázku UI lze shrnout do mřížky: každá oblast nese příslib a riziko a kompas zůstává tentýž: osoba.

OblastPříslibRizikoKatolický kompas
PráceOsvobodit od těžkých úkolůVyloučit, koncentrovat bohatstvíPráce, místo důstojnosti (č. 70)
VálkaPřesnost, ochranaAutonomní zbraně rozhodující o zabíjeníŽádný stroj nevolí smrt (č. 100)
InformacePřístup, překlad, poznáníDeepfakes, „kognitivní znečištění“Pravda a důvěra
VztahySpojení, dostupnostNapodobenina, izolaceDruhý je osoba, ne nástroj (č. 59)
SoukromíPersonalizované službyDohled, profilování, kontrolaČlověk není soubor údajů (Mír č. 5)
ProstředíOptimalizace, výzkumEnergie, voda, uhlíková stopaIntegrální ekologie (č. 96)
VzděláváníPodpora, dostupnostSvěřování myšleníFormovat osobu osobou (č. 79-81)

Odpověď magisteria: orientační body a návrhy

Od Rome Call for AI Ethics po Lva XIV.: šest mezníků mezi lety 2020 a 2025. Původní infografika Ignispedia vytvořená umělou inteligencí.

Tváří v tvář těmto výzvám se Církev nespokojuje s varováním: navrhuje orientační body a vybízí k jednání. Jej nedávné slovo strukturuje pět mezníků.

Antiqua et nova (2025), referenční nóta

Antiqua et nova („staré a nové věci“), vydaná 28. ledna 2025 Dikasteriem pro nauku víry a Dikasteriem pro kulturu a vzdělávání, je dosud nejkompletnějším doktrinálním textem o UI. Ve 117 odstavcích zakládá rozlišování na křesťanské antropologii, rozlišuje lidskou a umělou inteligenci a prochází všechny velké sociální otázky. Je referenčním zdrojem tohoto článku.

Papež František: mír, G7, „moudrost srdce“

Rok 2024 přinesl trojitou intervenci:

  • Poselství k míru, které stanoví, že UI nelze a priori předpokládat za dobrou a vyžaduje, aby důstojnost zůstala „základem“ každého vývoje;
  • projev na G7, kde František, první papež před hlavami států G7, obhajoval „prostor významné lidské kontroly“ nad volbami UI, na němž závisí „samotná lidská důstojnost“[37];
  • Poselství ke dni sdělovacích prostředků, které proti chladu výpočtu staví „moudrost srdce“, „ctnost, která nám umožňuje tkát dohromady celek a části“[38].

Rome Call a „algor-etika“

Starší (2020) Rome Call for AI Ethics má zásluhu, že shromáždil kolem Církve průmyslové a mezinárodní aktéry na šesti konkrétních principech (viz výše). Ukazuje, že katolická nauka neodmítá technický dialog: chce zapsat etiku již od návrhu systémů.

Výzva k regulaci

Konstanta v těchto textech: UI nelze ponechat pouze zákonu trhu nebo moci. Z toho vyplývá Františkova výzva k „závazné mezinárodní smlouvě, která reguluje vývoj a používání umělé inteligence“[39]. Regulace není nepřítelem inovace: je podmínkou, aby inovace sloužila člověku.

Konečné riziko: udělat z UI modlu

Kromě sociálních otázek Antiqua et nova označuje hlubší nebezpečí, duchovního řádu. Věky staré pokušení člověka učinit se bohem vlastními díly.

Prométheovské pokušení

Někteří propagátoři UI neváhají mluvit o vytvoření „inteligence“ vyšší než člověk, o „poražení smrti“, o výrobě vědomí. Je to v moderním hávu staré modlářství. Dokument je jednoznačný:

„Domněnka nahradit Boha dílem vlastních rukou je modlářství.“ Antiqua et nova, č. 105[40]

Člověk, který uctívá vlastní technickou moc, končí jako otrok své modly. Poselství ke dni sdělovacích prostředků mluví o „deliriu všemohoucnosti“, z něhož je třeba člověka probudit[41]. Je to přesně terén transhumanismu, který sní o zrušení lidského stavu.

„Stává se člověk opravdu lepším?“

Konečné kritérium pokroku, připomíná Antiqua et nova s citací svatého Jana Pavla II., není získaná moc, ale růst vnitřního člověka: skutečná otázka zní, zda „se člověk [...] stává opravdu lepším, tedy duchovně zralejším“[42]. Civilizace může množit své stroje a regresovat v lidskosti. Technický pokrok je lidským pokrokem pouze tehdy, pokud činí člověka svobodnějším, spravedlivějším, láskyplnějším.

Moudrost srdce, kterou žádný stroj nebude mít

Proti chladné moci výpočtu Evangelium staví inteligenci jiného řádu: moudrost srdce, plod Ducha, která umí rozlišit dobro, konkrétně milovat a nechat se uchvátit Bohem. Právě ona, ne výkon, tvoří velikost člověka a žádný systém, jakkoli mocný, ji nikdy nedokáže reprodukovat.

Jak křesťansky žít ve věku umělé inteligence?

Katolické rozlišování se neredukuje na principy: vybízí ke způsobu života. Z textů vyplývá několik konkrétních orientačních bodů.

Zachovat vládu, nesvěřovat své svědomí

Používat UI jako nástroj, ano; odevzdat jí svá rozhodnutí, úsudek, myšlení, ne. Křesťan zůstává odpovědný za to, co produkuje, sdílí a čemu věří. Ověřovat zdroje, odmítat šířit pochybný obsah, zachovat kritického ducha: to je požadavek lásky k pravdě.

Dávat osoby před obrazovky

Tam, kde UI nabízí simulované vztahy, křesťan volí skutečné vztahy: přítomnost, tvář, darovaný čas, trpělivost. Boj proti osamělosti a digitálním závislostem prochází každodenním rozhodnutím upřednostnit živého druhého před jeho algoritmickým odrazem.

Dávat UI do služby nejslabších

Evangelijní kritérium je konstantní: co slouží „nejmenším“, je požehnané. UI, která léčí, zahrnuje, zmírňuje bolest chudých, uskutečňuje své povolání nástroje; UI, která dohlíží, vylučuje nebo zotročuje, ho zrazuje. Rozlišování se vždy děje podle společného dobra.

Zůstávat v adoraci, ne ve fascinaci

Nakonec, nejhlubším lékem na technické modlářství je adorace pravého Boha. Člověk, který ví, komu patří, neriskuje, že se bude klanět vlastním strojům. Modlitba, svátostný život, kontemplace vracejí člověku správnou míru sebe sama: milované stvoření, a ne tvůrce vlastní spásy.

„Lidstvo bychom odsoudili k budoucnosti bez naděje, kdybychom lidem vzali schopnost rozhodovat o sobě a o svém životě a odsoudili je k závislosti na volbách strojů.“ Papež František, projev na G7, 14. června 2024[43]

Umělá inteligence, braná za to, čím je (obdivuhodný a hrozivý nástroj), může člověku velmi sloužit. Braná za to, čím není (osoba, vědomí, bůh), ho ohrožuje. Mezi oběma je hranice přesně ta, kterou Církev, věrná svému poslání, nepřestává připomínat: nezcizitelná důstojnost lidské osoby.

Pro další krok

  • Technika a člověk: celková katolická vize vztahu mezi člověkem a jeho technickou mocí, jejíž je UI aplikací.
  • Transhumanismus: snaha „přetvořit“ nebo „vylepšit“ člověka strojem a katolická odpověď.
  • Bioetika: manipulace živého, genetické inženýrství a plození.
  • Důstojnost lidské osoby: antropologický základ celé etiky UI.
  • Pravda v médiích: dezinformace, deepfakes a odpovědnost křesťana.
  • Moderní osamělost a Závislosti: propojený člověk a riziko vztahové napodobeniny.

Hlavní zdroje: Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání, Antiqua et nova (28. ledna 2025); papež František, Umělá inteligence a mír*, Poselství k 57. Světovému dni míru (1. ledna 2024), projev na G7 (14. června 2024) a Poselství k 58. Světovému dni sdělovacích prostředků (2024); Papežská akademie pro život,* Rome Call for AI Ethics (28. února 2020); Lev XIV., projev ke Kolegiu kardinálů (10. května 2025). Oficiální texty na vatican.va.

Poznámky a odkazy

  1. Lev XIV., projev ke Kolegiu kardinálů, 10. května 2025: „Papež Lev XIII. se v historické encyklice Rerum novarum zabýval sociální otázkou v kontextu první velké průmyslové revoluce; a dnes Církev nabízí všem své dědictví sociální nauky, aby odpověděla na další průmyslovou revoluci a na vývoj umělé inteligence, který přináší nové výzvy pro obranu lidské důstojnosti, spravedlnosti a práce.“ Oficiální text na vatican.va.

    1 4
  2. Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání, Antiqua et nova. Nóta o vztahu mezi umělou inteligencí a lidskou inteligencí, 28. ledna 2025, č. 4: UI „znamená novou významnou fázi ve vztahu lidstva k technologii“. Text na vatican.va.

    2
  3. Lev XIII., Rerum novarum, 15. května 1891: první sociální encyklika, o dělnické otázce tváří v tvář průmyslové revoluci. Viz článek Rerum novarum.

    3
  4. Papež František, Umělá inteligence a mír, Poselství k 57. Světovému dni míru, 1. ledna 2024 (datováno 8. prosince 2023), č. 2: „Umělou inteligenci je proto třeba chápat jako galaxii různých realit a nemůžeme a priori předpokládat, že její vývoj prospěšně přispěje k budoucnosti lidstva a k míru mezi národy.“ Text na vatican.va.

    5
  5. Antiqua et nova, č. 12: „Její pokročilé charakteristiky dávají UI sofistikované schopnosti vykonávat úkoly, ale ne schopnost myslet.“

    6
  6. Antiqua et nova, č. 10: „V případě člověka je totiž inteligence schopností vztahující se k osobě v její celistvosti, zatímco v případě UI se chápe ve funkčním smyslu.“

    7
  7. Antiqua et nova, č. 26: „Autentické úsilí vyžaduje obsáhnout celý rozsah bytí: duchovní, kognitivní, vtělený a vztahový.“

    8
  8. Antiqua et nova, č. 31: UI, „bez fyzického těla, se opírá o výpočetní uvažování a učení“.

    9
  9. Antiqua et nova, č. 31: „ačkoli UI zpracovává a simuluje některé projevy inteligence, zůstává zásadně uzavřená v logicko-matematickém rámci“.

    10
  10. Papež František, projev na zasedání G7 o umělé inteligenci, Borgo Egnazia (Apulie), 14. června 2024: „Umělá inteligence je nástroj navržený k řešení problému a funguje logickým řetězcem algebraických operací.“ První papež, který promluvil na G7. Text na vatican.va.

    11
  11. Antiqua et nova, č. 34: „hodnota osoby nezávisí na vlastnictví jednotlivých schopností, kognitivních a technologických úspěchů ani individuálních výsledků, ale na její vnitřní důstojnosti založené na tom, že je stvořena k obrazu Božímu“.

    12
  12. Antiqua et nova, č. 39: „pouze člověk je skutečně morálním činitelem“, tedy morálně odpovědným subjektem.

    13
  13. Papežská akademie pro život / RenAIssance Foundation, Rome Call for AI Ethics, Řím, 28. února 2020, princip odpovědnosti: „vždy musí existovat někdo, kdo přebírá odpovědnost za to, co stroj dělá“ (čes. překlad z „there must always be someone who takes responsibility for what a machine does“).

    14
  14. Rome Call for AI Ethics, 28. února 2020: šest principů (transparency, inclusion, responsibility, impartiality, reliability, security and privacy), shrnutých neologismem algorethics („algor-etika“). První signatáři: Papežská akademie pro život, Microsoft, IBM, FAO, italské ministerstvo inovací. Text na romecall.org a vatican.va.

    15
  15. Antiqua et nova, č. 37: vědecký výzkum a rozvoj technických kompetencí jsou součástí „spolupráce muže a ženy s Bohem na tom, aby viditelné stvoření přivedli k dokonalosti“.

    16
  16. Papež František, Poselství ke Světovému dni míru 2024, č. 2: „Vnitřní důstojnost každé osoby a bratrství, které nás spojuje jako členy jediné lidské rodiny, musí zůstat základem vývoje nových technologií.“

    17
  17. Katechismus katolické církve, § 2294: „Je iluzorní nárokovat si morální neutralitu vědeckého výzkumu a jeho aplikací.“

    18
  18. Papež František, Laudato Si', 24. května 2015, č. 106: popis „technokratického paradigmatu“ jako „homogenního a jednorozměrného paradigmatu“ aplikovaného na celou realitu. Viz Technika a člověk.

    19
  19. Antiqua et nova, č. 68: varování před posílením technokratického paradigmatu v ekonomické oblasti a práci: „nemůžeme dovolit, aby tak mocný a nepostradatelný nástroj, jakým je umělá inteligence, posiloval takové paradigma, ale musíme z umělé inteligence učinit právě hradbu proti jeho expanzi“.

    20
  20. Antiqua et nova, č. 70, s citací Františka, Laudato si', č. 128: „neměli bychom se snažit stále více nahrazovat lidskou práci technologickým pokrokem: škodilo by to samotnému lidstvu“.

    21
  21. Papež František, Poselství k míru 2024, č. 4: v technokratickém paradigmatu by „nerovnosti mohly nepřiměřeně narůstat, poznání a bohatství se hromadit v rukou několika málo lidí, s vážnými riziky pro demokratické společnosti a pokojné soužití“.

    22
  22. Papež František, projev na G7, 14. června 2024: „Žádný stroj by nikdy neměl volit, že vezme život lidské bytosti.“ (Je třeba odlišit od paralelní formulace Antiqua et nova č. 100.)

    23
  23. Antiqua et nova, č. 100: „Žádný stroj by nikdy neměl volit, že vezme život lidské bytosti.“ O systémech smrtících autonomních zbraní, bez „výlučné lidské schopnosti morálního úsudku“.

    24
  24. Papež František, Poselství k míru 2024, č. 6: „Systémy autonomních zbraní nikdy nebudou moci být morálně odpovědnými subjekty: výlučná lidská schopnost morálního úsudku a etického rozhodování je více než složitý soubor algoritmů.“

    25
  25. Papež František, Poselství k míru 2024, č. 8: výzva k „přiměřenému, významnému a konzistentnímu lidskému dohledu nad zbraňovými systémy“ a k přijetí „závazné mezinárodní smlouvy“ o UI.

    26
  26. Antiqua et nova, č. 86: UI „generuje manipulovaný obsah a nepravdivé informace, které, protože se velmi těžko odlišují od skutečných údajů, mohou snadno uvést v omyl“.

    27
  27. Papež František, Umělá inteligence a moudrost srdce: za plně lidskou komunikaci, Poselství k 58. Světovému dni sdělovacích prostředků 2024: „[Tyto nástroje] mohou být i nástroji „kognitivního znečištění“, pozměňování reality částečně nebo úplně nepravdivými vyprávěními, kterým se věří (a která se sdílejí), jako by byla pravdivá.“ Text na vatican.va.

    28
  28. Antiqua et nova, č. 59: „[UI] je třeba považovat za to, čím je: za nástroj, a ne za osobu.“

    29
  29. Antiqua et nova, č. 61: „Přestože UI může simulovat empatické odpovědi, výrazně osobní a vztahová povaha autentické empatie nemůže být reprodukována umělými systémy“.

    30
  30. Antiqua et nova, č. 63: „pokud tyto vztahy a vztah k Bohu nahradíme technologickými prostředky, riskujeme, že autentický vztah nahradíme napodobeninou bez života“.

    31
  31. Antiqua et nova, č. 90: údaje „nepřenášejí jen informace, ale i osobní a vztahové poznatky, které se ve stále digitalizovanějším kontextu mohou stát mocí nad jednotlivcem“.

    32
  32. Papež František, Poselství k míru 2024, č. 5: „Základní úcta k lidské důstojnosti předpokládá odmítnout, aby jedinečnost osoby byla ztotožněna se souborem údajů.“

    33
  33. Antiqua et nova, č. 96: velké modely UI „vyžadují velká množství energie a vody“ pro své trénování a provoz a významně přispívají k emisím CO2.

    34
  34. Antiqua et nova, č. 81: „podstatným úkolem vzdělávání je formovat intelekt, aby dobře uvažoval ve všech oblastech, směřoval k pravdě a uchopil ji“.

    35
  35. Antiqua et nova, č. 79: „Fyzická přítomnost učitele vytváří vztahovou dynamiku, kterou UI nedokáže reprodukovat.“

    36
  36. Papež František, projev na G7, 14. června 2024: „Musíme zaručit a chránit prostor významné lidské kontroly nad procesem volby programů umělé inteligence: na tom závisí samotná lidská důstojnost.“

    37
  37. Papež František, Poselství ke dni sdělovacích prostředků 2024: „Moudrost srdce je tedy ctnost, která nám umožňuje tkát dohromady celek a části, rozhodnutí a jejich důsledky, výšky a křehkosti, minulost a budoucnost, já a my.“

    38
  38. Papež František, Poselství k míru 2024, č. 8: „Vyzývám společenství národů, aby společně pracovalo na přijetí závazné mezinárodní smlouvy, která reguluje vývoj a používání umělé inteligence v jejích různých formách.“

    39
  39. Antiqua et nova, č. 105: „domněnka nahradit Boha dílem vlastních rukou je modlářství“.

    40
  40. Papež František, Poselství ke dni sdělovacích prostředků 2024: jde o „probuzení člověka z hypnózy, do které upadá kvůli deliriu všemohoucnosti, když se považuje za zcela autonomní a sebereferenční subjekt, oddělený od každého sociálního pouta a zapomínající na svůj status stvoření“.

    41
  41. Antiqua et nova, č. 109, s citací Jana Pavla II., Redemptor hominis (1979), č. 15: podstatná otázka pokroku zní, zda „se člověk [...] stává opravdu lepším, tedy duchovně zralejším“.

    42
  42. Papež František, projev na G7, 14. června 2024: „Lidstvo bychom odsoudili k budoucnosti bez naděje, kdybychom lidem vzali schopnost rozhodovat o sobě a o svém životě a odsoudili je k závislosti na volbách strojů.“

    43