Штучний інтелект (ШІ) позначає сукупність комп'ютерних систем, здатних виконувати завдання, які досі пов'язували з людським розумом: розпізнати зображення, перекласти мову, вести автомобіль, скласти текст, встановити діагноз хвороби. За кілька років ці системи вийшли з лабораторій у повсякденне життя мільярдів людей. Така потуга, що імітує деякі операції духу й проникає у працю, здоров'я, інформацію, війну і навіть у людські стосунки, не могла залишитися поза моральним поглядом Церкви.
Перед її лицем Церква відповідає ані захопленням релігією прогресу, ані реакційним страхом, який відкидав би кожну машину. Її позиція тримається на твердому розрізненні, встановленому опорним документом у цій справі, запискою Antiqua et nova (2025): ШІ є знаряддям (законним плодом розуму, якого Бог дав людині), але він не є особою. Його «розум» є суто функціональним: він обчислює, виконує, імітує, але він не мислить, не розуміє і ні за що не відповідає. Тому мірою всієї його етики залишається гідність людської особи.
Це розрізнення не є даниною моді. Обраний у травні 2025 року Папа Лев XIV прямо пояснив вибір свого імені посиланням на Лева XIII і на Rerum novarum: так само, як Церква зустріла першу промислову революцію своїм соціальним вченням, вона повинна сьогодні відповісти на нову революцію, революцію ШІ, яка ставить «нові виклики для захисту людської гідності, справедливості і праці»[1].
Ця стаття викладає католицький погляд на штучний інтелект у цілому: що таке ШІ, чому слово «інтелект» є почасти оманливим, у чому ШІ є добрим і в чому він є двоїстим, які великі соціальні й моральні питання він підіймає, що пропонує вчення Церкви і яким є граничний духовний ризик. Окремі ділянки (претензія переробити людину машиною, біоетика, цифрові залежності, пов'язана самотність, правда у засобах масової інформації) мають кожна свою статтю: ми відсилаємо до них, не дублюючи їх.
Чому Церква говорить про штучний інтелект?
ШІ охоче відносять до світу інженера, стартапу чи лабораторії, а не моралі. Це помилка перспективи. Те, як суспільство задумує, впроваджує і скеровує свою технічну потугу, стосується його уявлення про людину, його справедливості щодо найслабших і того сенсу, який воно надає прогресові. ШІ наскрізь є соціальним питанням.
«Соціальне питання» першорядної ваги
Жодна велика ділянка існування вже не вислизає від ШІ. Він визначає те, як ми працюємо (автоматизація, відбір кандидатур, організація праці), як ми лікуємося (допомога в діагностиці, медична візуалізація), як ми отримуємо інформацію (засоби масової інформації, мережі, алгоритмічні рекомендації), як нас судять (предиктивне правосуддя, соціальний скоринг, спостереження) і навіть як ми воюємо (автономна зброя). Antiqua et nova підкреслює: ШІ «знаменує новий важливий етап у стосунках людства з технологією»[2]. Реальність, яка впливає на всі ці колективні рішення, вже не є простим гаджетом: вона стала фактом цивілізації, а отже, власним предметом соціального і морального вчення Церкви.
Нова промислова революція: від Лева XIII до Лева XIV
Наступність вражає. У 1891 році перед потрясіннями першої промислової революції (фабрики, пролетаріат, конфлікт капіталу і праці) Лев XIII опублікував Rerum novarum, акт народження сучасного соціального вчення[3]. Понад століття потому саме ця паралель визначила вибір імені Лева XIV, першого папи, обраного в добу ШІ:
«Папа Лев XIII в історичній енцикліці Rerum novarum розглянув соціальне питання в контексті першої великої промислової революції; а сьогодні Церква пропонує всім спадщину свого соціального вчення, щоб відповісти на іншу промислову революцію та на розвиток штучного інтелекту, які ставлять нові виклики для захисту людської гідності, справедливості і праці». Лев XIV, Промова до Колегії кардиналів, 10 травня 2025 року[4]
Отже, ШІ розглядається не як технічна цікавинка, а як антропологічна зміна того масштабу, який породив соціальне вчення. Це свідчить про серйозність, із якою Церква до нього ставиться.
Роздум, що зрів двадцять років
Слово Церкви про ШІ аж ніяк не є імпровізацією. Воно вкорінене в столітньому роздумі про техніку, від Gaudium et Spes (1965) до Laudato Si' (2015), і уточнювалося каскадом документів із 2020 року: Rome Call for AI Ethics (Папська академія життя, 2020), Послання до Всесвітнього дня миру 2024 року, цілком присвячене ШІ, Послання до Всесвітнього дня соціальних комунікацій 2024 року, промова Папи Франциска на саміті «Великої сімки» (червень 2024 року, перший виступ папи перед «Великою сімкою») і, як доктринальне увінчання, записка Antiqua et nova (січень 2025 року). Це прискорення показує, що Церква усвідомила нагальність питання.
Що розглядає ця стаття, і куди вона відсилає
Задля ясності ця стаття тримається рівня принципів і великих соціальних питань. Окремі ділянки розглядаються окремо:
- претензія переробити людину, «збільшити» її чи зробити безсмертною через злиття з машиною → трансгуманізм;
- маніпуляції з живим (генна інженерія, дітонародження, CRISPR) → біоетика;
- людина підключена: залежність від екранів, втрата реального, ізоляція → залежності, сучасна самотність, правда у засобах масової інформації;
- загальне ставлення людини до своєї технічної потуги → техніка і людина, окремим застосуванням якої є ця стаття.
Тут ми шукаємо католицький компас, властивий штучному інтелектові.
Що таке штучний інтелект?
Перш ніж судити, потрібно зрозуміти, і насамперед позбутися образів із наукової фантастики. Реальний ШІ є ані електронним мозком, що усвідомлює себе, ані зловмисним роботом: це сукупність статистичних методів, які навчаються на величезних масивах даних.
«Галактика» технологій, а не єдине ціле
Папа Франциск застерігав уже в 2024 році, що не можна говорити про ШІ як про єдиний блок:
«Штучний інтелект слід розуміти як галактику різних реальностей, і ми не можемо наперед припускати, що його розвиток благотворно сприятиме майбутньому людства і мирові між народами». Папа Франциск, Послання до 57-го Всесвітнього дня миру, № 2 (1 січня 2024 року)[5]
Конкретно ШІ охоплює досить різні родини: системи, які класифікують (виявити пухлину на рентгенівському знімку, відфільтрувати лист), ті, які передбачають (передбачити поломку, шахрайство), ті, які рекомендують (обрати наступне відео), і, з 2022 року, генеративні системи, які на запит виробляють текст, зображення, голос або код. Саме останні, великі мовні моделі, що стали відомими завдяки розмовним агентам, створили у сотень мільйонів людей враження, ніби вони розмовляють із розумною машиною.
Вузький ШІ, генеративний ШІ, «загальний ШІ»: не змішувати все
Слід розрізняти три рівні, бо їх постійно плутають у публічних дебатах:
| Рівень | Що це | Реальний статус |
|---|---|---|
| Вузький ШІ | Система, навчена для одного точного завдання (грати в шахи, перекладати, розпізнавати обличчя) | Всюдисущий, дуже продуктивний |
| Генеративний ШІ | Система, яка виробляє новий зміст (текст, зображення, голос), імітуючи статистичні закономірності | Поширений із 2022 року, у повному розквіті |
| «Загальний ШІ» (AGI) | Гіпотетичний інтелект, що дорівнює людині в усіх ділянках, наділений свідомістю | Не існує; проєкція, ба навіть міф |
Плутати ці рівні означає приписувати реальним статистичним знаряддям здібності інтелекту, якого не існує, і живити, навпаки, непомірні страхи чи надії. Antiqua et nova запрошує саме до такої тверезості словника.
Що ШІ робить, і чого він не робить
Ось вирішальний пункт, і він є тоншим, ніж здається. Система ШІ може виробити вірш, але вона не знає, що пише вірш; вона може «відповісти» на запитання, але вона не розуміє ані запитання, ані своєї відповіді. Вона обчислює найімовірнішу послідовність слів. Antiqua et nova формулює це без обхідних шляхів:
«Його передові характеристики надають ШІ витончених здатностей виконання завдань, але не здатності мислити». Antiqua et nova, № 12[6]
Інакше кажучи, ШІ імітує результати інтелекту, не маючи його акту. Це розрізнення, яке здається абстрактним, визначає все подальше: саме воно забороняє трактувати машину як суб'єкта.
Людський розум і «розум» штучний: вирішальне розрізнення
Усі моральні дебати про ШІ точаться довкола одного слова: інтелект. Якщо вірити, що машина є справді розумною (у тому сенсі, в якому розумною є людина), тоді вже ніщо не заважає доручати їй людські рішення, прив'язуватися до неї як до особи чи мріяти з нею злитися. Якщо зрозуміти те, що радикально відділяє одне від одного, все прояснюється. Це серце третьої частини Antiqua et nova.
Слово «інтелект» є почасти оманливим
Термін «штучний інтелект» є аналогією, а аналогія може вводити в оману. У католицькій традиції інтелект є не лише здатністю розв'язувати проблеми: це здатність усієї особи, відкритої до істини, добра, краси і Бога. Тому документ чітко розрізняє два вживання слова:
«У випадку людської істоти, справді, інтелект є здатністю, що стосується особи в її цілісності, тоді як у випадку ШІ він розуміється у функціональному сенсі». Antiqua et nova, № 10[7]
«Інтелект» машини міряється її здатністю виконувати завдання; інтелект людини стосується того, чим вона є. Одне слово покриває дві реальності різного порядку, і плутати їх є першою пасткою.
Людський розум є втіленим, духовним і реляційним
Чому людина «мислить» там, де машина лише обчислює? Тому що її розум не є програмою, що обертається в порожнечі: його несе тіло, одухотворює духовна душа, і він розгортається у стосунках. Людина пізнає своєю плоттю, своєю чутливістю, своєю пораненою і радісною пам'яттю, своєю свободою, своєю відкритістю до іншого і до Бога.
«Справжнє зобов'язання вимагає охопити всю широту буття: духовну, когнітивну, втілену і реляційну». Antiqua et nova, № 26[8]
Машина, «позбавлена фізичного тіла», не знає нічого з цього: вона «спирається на обчислювальне міркування і навчання»[9] і залишається, каже текст, «фундаментально замкнутою в логіко-математичних межах»[10]. Вона може маніпулювати знаками любові, болю чи молитви, ніколи не маючи їхнього досвіду. Ось чому вона не могла б замінити присутність друга, опікуна чи вчителя.
Машина обчислює, вона не мислить
Папа Франциск підсумував це на саміті «Великої сімки» у навмисно скромній формулі:
«Штучний інтелект є знаряддям, задуманим для розв'язання проблеми, і функціонує через логічний ланцюжок алгебраїчних операцій». Папа Франциск, Промова на саміті «Великої сімки», Борго-Еньяція (Апулія), 14 червня 2024 року[11]
Ланцюжок алгебраїчних операцій: ось чим є, по суті, найвражаючий ШІ. Його потуга походить від масштабу (мільярди параметрів, океани даних), а не від іскри думки. Наслідок величезний: те, що не є суб'єктом, не може вважатися відповідальним, а те, що не мислить, не може вирішувати про добро.
Гідність особи, міра всієї етики ШІ
Якщо ШІ не є особою, тоді особа залишається мірою. Уся католицька етика ШІ випливає з єдиного принципу: невідчужуваної гідності людської істоти, створеної на образ Божий. Саме вона встановлює те, що дозволено, і те, що не дозволено ніколи.
Цінність людини не тримається на її продуктивності
У культурі, одержимій продуктивністю, ШІ ризикує змусити вірити, що людина «варта» того, що вона виробляє, обчислює чи чого досягає. Antiqua et nova твердо перевертає цю логіку, і саме тут розігрується також відповідь трансгуманізмові:
«Цінність особи не залежить від володіння особливими здатностями, когнітивними і технологічними досягненнями чи індивідуальними успіхами, а від її внутрішньої гідності, заснованої на тому, що вона створена на образ Божий». Antiqua et nova, № 34[12]
Новонароджений, хворий на хворобу Альцгеймера, особа з інвалідністю, яких жодна машина не судить як «продуктивних», володіють точно тією самою гідністю, що й учений чи чемпіон. Жодна система алгоритмічного оцінювання, жодне міряння «корисності» не може надщербити цю гідність. Саме її захищає сусідня стаття про гідність людської особи.
Лише людина є морально відповідальним суб'єктом
Із гідності випливає відповідальність. Машина може виконати вказівку, ніколи не відповідаючи за неї перед своїм сумлінням. Antiqua et nova на цьому наполягає: «лише людська істота є справді моральним діячем»[13]. Ось чому завжди є ілюзорним і небезпечним «довіряти» ШІ моральне рішення, уявляючи, що він несе його тягар: за кожною системою стоять людські проєктувальники, власники і користувачі, які залишаються відповідальними за її наслідки. Rome Call робить це одним зі своїх принципів: «завжди повинна бути людина, яка бере відповідальність за те, що робить машина»[14].
Етика на службі особи: «алгор-етика»
Уже в 2020 році Папська академія життя зібрала гігантів технологій (Microsoft, IBM), міжнародні інституції (ФАО) та італійську державу довкола засновницького тексту, Rome Call for AI Ethics, і нового слова: алгор-етика, тобто етика, вписана аж у проєктування алгоритмів. Текст проголошує шість принципів, які католицьке вчення визнає вимогами людської гідності:
| Принцип | Вимога |
|---|---|
| Прозорість | Системи ШІ повинні бути зрозумілими |
| Інклюзивність | Не дискримінувати нікого, бо кожна людська істота має ту саму гідність |
| Відповідальність | Хтось повинен завжди відповідати за те, що робить машина |
| Неупередженість | Не створювати і не наслідувати несправедливих упереджень |
| Надійність | Системи повинні бути безпечними і надійними |
| Безпека і приватне життя | Захищати дані та інтимність осіб |
Ці принципи не є зовнішніми обмеженнями, накладеними на техніку: вони перекладають мовою інженерів те, що віра стверджує про людину[15].
Чи є штучний інтелект добрим? Двоїсте знаряддя
Питання повертається безнастанно: чи треба боятися ШІ? Відповідь Церкви є водночас нюансованою і твердою. ШІ є реальним добром, але добром двоїстим, у якому все залежить від вжитку і від місця, яке йому відводять.
Законний плід сотвореного розуму
ШІ народжується з розуму, якого Бог довірив людині, щоб «обробляти і доглядати» землю (Бут 2, 15). Задумувати його, вдосконалювати його, ставити на службу спільному благу є, саме собою, добрим ділом. Antiqua et nova прямо пов'язує наукове і технічне дослідження зі «співпрацею чоловіка і жінки з Богом»[16]. Церква не має, отже, жодної ностальгії за дотехнічною добою: вона визнає величезні можливі блага ШІ: у медицині, у дослідженнях, у доступі до знання, у допомозі вразливим особам.
«Внутрішня гідність кожної особи і братерство, які пов'язують нас як членів єдиної людської родини, повинні залишатися основою розвитку нових технологій». Папа Франциск, Послання до Всесвітнього дня миру 2024 року, № 2[17]
Але жодна техніка не є морально нейтральною
Часто чути, що «техніка нейтральна, все залежить від вжитку». Це небезпечна півправда. Система ШІ вже скеровує поведінки: алгоритм рекомендацій не є нейтральним щодо уваги, система оцінювання не є нейтральною щодо справедливості, автономна зброя не є нейтральною щодо насильства. Катехизм нагадує це для всієї техніки:
«Ілюзорно претендувати на моральну нейтральність наукового дослідження та його застосувань». Катехизм Католицької Церкви, § 2294[18]
Претендувати, що ШІ не має нічого спільного з мораллю, означає вже зайняти моральну позицію, найгіршу, яка залишає поле вільним для брутальної ефективності та інтересу сильнішого.
Ризик посилити «технократичну парадигму»
ШІ може стати найпотужнішим знаряддям того, що Laudato Si' називає технократичною парадигмою: тієї ментальності, яка зводить реальне до того, що обчислюється, посідається і виробляється[19]. Antiqua et nova застерігає саме від цього ризику в економічній ділянці:
«Ми не можемо дозволити, щоб таке потужне і незамінне знаряддя, як штучний інтелект, посилило таку парадигму». Antiqua et nova, № 68[20]
Небезпекою є не машина, а бачення світу, яке вона може накинути: світ, у якому все (природа, праця, інформація і, зрештою, людина) стає даними для експлуатації. Це точно той схил, який описує стаття Техніка і людина.
Великі моральні і соціальні питання, поставлені ШІ
Саме в конкретному компас перевіряється. П'ята частина Antiqua et nova оглядає ділянки, де ШІ стосується блага осіб. Тут візьмемо найвирішальніші з них для соціального питання.
ШІ і праця: звільнити чи виключити?
Автоматизація може звільнити людину від тяжких і повторюваних завдань, благо, яке соціальне вчення вітає. Але вона може також виключити: сконцентрувати багатство, знищити робочі місця, не створивши нових, перетворити працівника на простий додаток до машини. Antiqua et nova встановлює чітку межу:
«ми не повинні прагнути дедалі більше замінювати людську працю технічним прогресом: це зашкодило б самому людству» Antiqua et nova, № 70[21]
Праця є не лише витратою, яку треба оптимізувати: вона є місцем гідності, прожиття і реалізації особи. Послання до Дня миру 2024 року застерігає, що в технократичній парадигмі «знання і багатство [могли б] накопичуватися в руках небагатьох»[22], на шкоду спільному благу і універсальному призначенню благ. Питання не «чи треба автоматизувати?», а «на службі кого?»: це весь сенс вчення про працю, успадкованого від Rerum novarum.
ШІ і війна: «жодна машина не повинна обирати забрати життя»
Це, мабуть, найтяжчий пункт. Автономні системи зброї можуть обирати і вражати ціль без прямого людського втручання. А вирішувати про життя чи смерть людини є моральним актом, якого жодне обчислення не може взяти на себе. Папа Франциск вкарбував це на саміті «Великої сімки»:
«Жодна машина ніколи не повинна обирати забрати життя людській істоті». Папа Франциск, Промова на саміті «Великої сімки», 14 червня 2024 року[23]
Antiqua et nova повторює ту саму вимогу, «Жодна машина ніколи не повинна обирати забрати життя людській істоті»[24], а Послання до Дня миру 2024 року подає її глибинну причину:
«Автономні системи зброї ніколи не зможуть бути морально відповідальними суб'єктами: виключно людська здатність морального судження і етичного рішення є чимось більшим, ніж складний набір алгоритмів». Папа Франциск, Послання до Дня миру 2024 року, № 6[25]
Звідси заклик до реального і постійного людського нагляду за зброєю і до «обов'язкового міжнародного договору», який регулював би ШІ[26].
ШІ, дезінформація і «діпфейки»
Генеративний ШІ дозволяє за кілька секунд фабрикувати фальшиві зображення, фальшиві голоси, фальшиві промови, невідрізнювані від справжніх: діпфейки. Antiqua et nova застерігає про те, що ШІ «генерує маніпульований зміст і фальшиву інформацію, які [...] легко можуть вводити в оману»[27]. Послання до Дня соціальних комунікацій 2024 року називає це зло «когнітивним забрудненням»:
«[Ці знаряддя] можуть також бути інструментами "когнітивного забруднення", спотворення реальності частково або цілком фальшивими розповідями, у які вірять (і якими діляться), ніби вони були правдою». Папа Франциск, Послання до Всесвітнього дня соціальних комунікацій 2024 року[28]
Ставкою є не лише фактична помилка: це сама довіра, цемент усього спільного життя, опиняється підірваною. Католицька відповідь стосується як етики проєктувальників, так і формування сумлінь, теми, розвиненої у Правда у засобах масової інформації.
ШІ і людські стосунки: ризик симулякра
Додатки пропонують відтепер штучних «друзів», «довірників», ба навіть «спутників». Небезпека полягає в тому, щоб прийняти симулякр за стосунки. Antiqua et nova встановлює правило:
«[ШІ] слід розглядати як те, чим він є: знаряддя, а не особа». Antiqua et nova, № 59[29]
Бо, каже текст, «Хоча ШІ може імітувати емпатійні відповіді, чітко особиста і реляційна природа справжньої емпатії не може бути відтворена штучними системами»[30]: програма може імітувати слова співчуття, ніколи не переживаючи його. І ризик висловлено прямо:
«якщо ми замінимо ці стосунки і стосунки з Богом технічними засобами, ми ризикуємо замінити справжні стосунки неживим симулякром» Antiqua et nova, № 63[31]
Замінювати машиною обличчя іншого означає наражатися на ще глибшу самотність, ту, яку описує стаття Сучасна самотність і яка живить цифрові залежності.
ШІ, приватне життя і спостереження
ШІ живиться даними, а наші дані кажуть, хто ми є. Antiqua et nova застерігає, що ці дані «несуть не лише інформацію, а й особисте і реляційне знання, яке [...] може стати владою над індивідом»[32]. Масове спостереження, соціальне оцінювання, профілювання: ШІ може служити безпрецедентному контролеві сумлінь і поведінок. Повага до гідності вимагає, каже Послання до Дня миру, «відмовитися ототожнювати унікальність особи з набором даних»[33]. Людина ніколи не зводиться до свого профілю.
ШІ і спільний дім
Про це часто забувають: великі моделі ШІ мають значну екологічну ціну. Їхнє навчання і функціонування «потребують великих кількостей енергії і води»[34] для живлення та охолодження величезних центрів даних. Питання ШІ долучається, отже, до питання інтегральної екології і береження творіння: прогрес, який виснажує спільний дім, не є справжнім прогресом.
ШІ і освіта наймолодших
ШІ може бути чудовим помічником у навчанні, але він не може сформувати розум ані передати людяність. Antiqua et nova нагадує, що «суттєвим завданням освіти є формувати інтелект до доброго міркування»[35], що передбачає зусилля, пам'ять і терпеливість, а не делегування думки машині, яка «робить домашні завдання». Передусім «фізична присутність учителя створює реляційну динаміку, яку ШІ відтворити не може»[36]. Виховувати означає пробуджувати особу іншою особою: жоден алгоритмічний репетитор для цього не вистачить.
Зведена таблиця: обіцянка і ризик
Усе соціальне питання ШІ можна підсумувати в одній сітці: кожна ділянка несе обіцянку і ризик, а компас залишається тим самим: особа.
| Ділянка | Обіцянка | Ризик | Католицький компас |
|---|---|---|---|
| Праця | Звільнити від тяжких завдань | Виключити, сконцентрувати багатство | Праця, місце гідності (№ 70) |
| Війна | Точність, захист | Автономна зброя, що вирішує вбивати | Жодна машина не обирає смерть (№ 100) |
| Інформація | Доступ, переклад, знання | Діпфейки, «когнітивне забруднення» | Правда і довіра |
| Стосунки | Зв'язок, доступність | Симулякр, ізоляція | Інший є особою, а не знаряддям (№ 59) |
| Приватне життя | Персоналізовані послуги | Спостереження, профілювання, контроль | Людина не є набором даних (Мир № 5) |
| Довкілля | Оптимізація, дослідження | Енергія, вода, вуглецевий слід | Інтегральна екологія (№ 96) |
| Освіта | Підтримка, доступність | Делегування думки | Формувати особу особою (№ 79-81) |
Відповідь вчення Церкви: орієнтири і пропозиції
Перед лицем цих викликів Церква не задовольняється застереженнями: вона пропонує орієнтири і закликає до дії. П'ять віх структурують її новітнє слово.
Antiqua et nova (2025), опорна записка
Опублікована 28 січня 2025 року Дикастерією віровчення і Дикастерією у справах культури й освіти, Antiqua et nova («старе і нове») є найповнішим доктринальним текстом на сьогодні про ШІ. У 117 параграфах він засновує розрізнення на християнській антропології, розрізняє людський і штучний розум і оглядає всі великі соціальні питання. Це опорне джерело цієї статті.
Папа Франциск: мир, «Велика сімка», «мудрість серця»
Рік 2024 побачив потрійне втручання:
- Послання до Дня миру, яке встановлює, що ШІ не може вважатися добрим апріорі і вимагає, щоб гідність залишалася «основою» всього розвитку;
- промова на саміті «Великої сімки», де, перший папа перед главами держав «Великої сімки», Франциск закликав до «простору значущого людського контролю» над виборами ШІ, від якого залежить «сама людська гідність»[37];
- Послання до Дня соціальних комунікацій, яке протиставляє холодності обчислення «мудрість серця», «ту чесноту, яка дозволяє нам сплітати докупи ціле і частини»[38].
Rome Call і «алгор-етика»
Раніший (2020), Rome Call for AI Ethics має заслугу в тому, що зібрав довкола Церкви промислових і міжнародних діячів на шести конкретних принципах (див. вище). Він показує, що католицьке вчення не відмовляється від технічного діалогу: воно хоче вписати етику від самого проєктування систем.
Заклик до регулювання
Постійною в цих текстах є думка: ШІ не може бути полишений на саму лише ринкову чи силову закони. Звідси заклик Франциска до «обов'язкового міжнародного договору, який регулює розвиток і використання штучного інтелекту»[39]. Регулювання не є ворогом інновації: воно є умовою того, щоб інновація служила людині.
Граничний ризик: зробити з ШІ ідола
Поза соціальними питаннями Antiqua et nova вказує на глибшу небезпеку, духовного порядку. Спокусу, стару як людина, зробити себе богом власними ділами.
Прометеївська спокуса
Деякі промотори ШІ не вагаються говорити про створення «розуму», вищого за людину, про «перемогу над смертю», про фабрикування свідомості. Це, під сучасними шатами, стародавнє ідолопоклонство. Документ не двозначний:
«Зухвала спроба замінити Бога ділом власних рук є ідолопоклонством». Antiqua et nova, № 105[40]
Людина, яка поклоняється власній технічній потузі, закінчує рабом свого ідола. Послання до Дня соціальних комунікацій говорить про «марення всемогутності», від якого людину треба пробудити[41]. Це точно терен трансгуманізму, який мріє скасувати людську кондицію.
«Чи стає людина справді кращою?»
Граничний критерій прогресу, нагадує Antiqua et nova, цитуючи святого Йоана Павла II, є не набута потуга, а зростання внутрішньої людини: справжнє питання полягає в тому, «чи людина [...] стає справді кращою, тобто духовно зрілішою»[42]. Цивілізація може множити свої машини і регресувати в людяності. Технічний прогрес є людським прогресом лише тоді, коли він робить людину вільнішою, справедливішою, люблячішою.
Мудрість серця, якої жодна машина не матиме
Холодній потузі обчислення Євангеліє протиставляє розум іншого порядку: мудрість серця, плід Святого Духа, який вміє розрізняти добро, конкретно любити і давати Богові себе захопити. Саме вона, а не продуктивність, становить велич людини, і жодна система, хоч би яка потужна, ніколи не зможе її відтворити.
Як жити по-християнськи в добу штучного інтелекту?
Католицьке розрізнення не зводиться до принципів: воно закликає до способу життя. Кілька конкретних орієнтирів випливає з текстів.
Зберігати контроль, не делегувати своє сумління
Використовувати ШІ як знаряддя, так; полишати йому свої рішення, своє судження, свою думку, ні. Християнин залишається відповідальним за те, що він виробляє, поширює і в що вірить. Перевіряти свої джерела, відмовлятися поширювати сумнівний зміст, зберігати критичний дух: це вимога милосердя щодо правди.
Ставити осіб перед екранами
Там, де ШІ пропонує імітовані стосунки, християнин обирає реальні стосунки: присутність, обличчя, відданий час, терпеливість. Боротьба проти самотності і цифрових залежностей проходить через щоденне рішення надавати перевагу живому іншому перед його алгоритмічним відображенням.
Ставити ШІ на службу найслабшим
Євангельський критерій постійний: те, що служить «найменшим», є благословенним. ШІ, який лікує, який включає, який полегшує страждання бідних, реалізує своє покликання знаряддя; ШІ, який стежить, виключає чи поневолює, його зраджує. Розрізнення завжди робиться мірою спільного блага.
Перебувати в поклонінні, а не в зачаруванні
Нарешті, найглибші ліки від технічного ідолопоклонства є поклоніння правдивому Богові. Людина, яка знає, кому вона належить, не ризикує падати ниць перед власними машинами. Молитва, сакраментальне життя, споглядання повертають людині справедливу міру себе самої: улюбленого сотворіння, а не творця свого спасіння.
«Ми засудили б людство на майбутнє без надії, якби відібрали в людей здатність вирішувати за себе і за своє життя, засудивши їх на залежність від виборів машин». Папа Франциск, Промова на саміті «Великої сімки», 14 червня 2024 року[43]
Штучний інтелект, взятий як те, чим він є (чудове і грізне знаряддя), може великою мірою служити людині. Взятий як те, чим він не є (особа, свідомість, бог), він їй загрожує. Між двома межа є точно тією, яку Церква, вірна своїй місії, безнастанно нагадує: невідчужувана гідність людської особи.
Для подальшого читання
Головні джерела: Дикастерія віровчення і Дикастерія у справах культури й освіти, Antiqua et nova (28 січня 2025 року); Папа Франциск, Штучний інтелект і мир*, Послання до 57-го Всесвітнього дня миру (1 січня 2024 року), промова на саміті «Великої сімки» (14 червня 2024 року) і Послання до 58-го Всесвітнього дня соціальних комунікацій (2024); Папська академія життя,* Rome Call for AI Ethics (28 лютого 2020 року); Лев XIV, промова до Колегії кардиналів (10 травня 2025 року). Офіційні тексти на vatican.va.
Примітки та посилання
Лев XIV, Промова до Колегії кардиналів, 10 травня 2025 року: «Папа Лев XIII в історичній енцикліці Rerum novarum розглянув соціальне питання в контексті першої великої промислової революції; а сьогодні Церква пропонує всім спадщину свого соціального вчення, щоб відповісти на іншу промислову революцію та на розвиток штучного інтелекту, які ставлять нові виклики для захисту людської гідності, справедливості і праці». Офіційний текст на vatican.va.
1 4Дикастерія віровчення і Дикастерія у справах культури й освіти, Antiqua et nova. Записка про зв'язок між штучним інтелектом і людським розумом, 28 січня 2025 року, № 4: ШІ «знаменує новий важливий етап у стосунках людства з технологією». Текст на vatican.va.
2Лев XIII, Rerum novarum, 15 травня 1891 року: перша соціальна енцикліка, про умови робітників перед лицем промислової революції. Див. статтю Rerum novarum.
3Папа Франциск, Штучний інтелект і мир, Послання до 57-го Всесвітнього дня миру, 1 січня 2024 року (датоване 8 грудня 2023 року), № 2: «Штучний інтелект слід розуміти як галактику різних реальностей, і ми не можемо наперед припускати, що його розвиток благотворно сприятиме майбутньому людства і мирові між народами». Текст на vatican.va.
5Antiqua et nova, № 12: «Його передові характеристики надають ШІ витончених здатностей виконання завдань, але не здатності мислити».
6Antiqua et nova, № 10: «У випадку людської істоти, справді, інтелект є здатністю, що стосується особи в її цілісності, тоді як у випадку ШІ він розуміється у функціональному сенсі».
7Antiqua et nova, № 26: «Справжнє зобов'язання вимагає охопити всю широту буття: духовну, когнітивну, втілену і реляційну».
8Antiqua et nova, № 31: ШІ, «позбавлений фізичного тіла, спирається на обчислювальне міркування і навчання».
9Antiqua et nova, № 31: «хоча ШІ обробляє і імітує деякі вияви інтелекту, він залишається фундаментально замкнутим у логіко-математичних межах».
10Папа Франциск, Промова на сесії «Великої сімки» про штучний інтелект, Борго-Еньяція (Апулія), 14 червня 2024 року: «Штучний інтелект є знаряддям, задуманим для розв'язання проблеми, і функціонує через логічний ланцюжок алгебраїчних операцій». Перший папа, який звернувся до «Великої сімки». Текст на vatican.va.
11Antiqua et nova, № 34: «цінність особи не залежить від володіння особливими здатностями, когнітивними і технологічними досягненнями чи індивідуальними успіхами, а від її внутрішньої гідності, заснованої на тому, що вона створена на образ Божий».
12Antiqua et nova, № 39: «лише людська істота є справді моральним діячем», тобто морально відповідальним суб'єктом.
13Папська академія життя / RenAIssance Foundation, Rome Call for AI Ethics, Рим, 28 лютого 2020 року, принцип відповідальності: «завжди повинна бути людина, яка бере відповідальність за те, що робить машина» (укр. перекл. з «there must always be someone who takes responsibility for what a machine does»).
14Rome Call for AI Ethics, 28 лютого 2020 року: шість принципів (transparency, inclusion, responsibility, impartiality, reliability, security and privacy), підсумованих неологізмом algorethics («алгор-етика»). Початкові підписанти: Папська академія життя, Microsoft, IBM, ФАО, міністерство інновацій Італії. Текст на romecall.org і vatican.va.
15Antiqua et nova, № 37: наукове дослідження і розвиток технічних компетентностей є частиною «співпраці чоловіка і жінки з Богом, щоб довести видиме творіння до досконалості».
16Папа Франциск, Послання до Всесвітнього дня миру 2024 року, № 2: «Внутрішня гідність кожної особи і братерство, які пов'язують нас як членів єдиної людської родини, повинні залишатися основою розвитку нових технологій».
17Катехизм Католицької Церкви, § 2294: «Ілюзорно претендувати на моральну нейтральність наукового дослідження та його застосувань».
18Папа Франциск, Laudato Si', 24 травня 2015 року, № 106: опис «технократичної парадигми» як «однорідної й одновимірної парадигми», застосованої до всього реального. Див. Техніка і людина.
19Antiqua et nova, № 68: застереження проти посилення технократичної парадигми в економічній ділянці і ділянці праці: «ми не можемо дозволити, щоб таке потужне і незамінне знаряддя, як штучний інтелект, посилило таку парадигму, а повинні радше зробити штучний інтелект оплотом саме проти її розширення».
20Antiqua et nova, № 70, цит. Франциск, Laudato si', № 128: «ми не повинні прагнути дедалі більше замінювати людську працю технічним прогресом: це зашкодило б самому людству».
21Папа Франциск, Послання до Дня миру 2024 року, № 4: у технократичній парадигмі «нерівність могла б зростати непропорційно, знання і багатство накопичуватися в руках небагатьох, із серйозними ризиками для демократичних суспільств і мирного співіснування».
22Папа Франциск, Промова на саміті «Великої сімки», 14 червня 2024 року: «Жодна машина ніколи не повинна обирати забрати життя людській істоті». (Слід відрізняти від паралельного формулювання Antiqua et nova № 100, де сказано «забрати життя».)
23Antiqua et nova, № 100: «Жодна машина ніколи не повинна обирати забрати життя людській істоті». Про летальні автономні системи зброї, позбавлені «виключно людської здатності морального судження».
24Папа Франциск, Послання до Дня миру 2024 року, № 6: «Автономні системи зброї ніколи не зможуть бути морально відповідальними суб'єктами: виключно людська здатність морального судження і етичного рішення є чимось більшим, ніж складний набір алгоритмів».
25Папа Франциск, Послання до Дня миру 2024 року, № 8: заклик до «належного, значущого і послідовного людського нагляду за системами зброї» і до ухвалення «обов'язкового міжнародного договору» про ШІ.
26Antiqua et nova, № 86: ШІ «генерує маніпульований зміст і фальшиву інформацію, які, будучи дуже важко відрізнюваними від реальних даних, легко можуть вводити в оману».
27Папа Франциск, Штучний інтелект і мудрість серця: до повністю людської комунікації, Послання до 58-го Всесвітнього дня соціальних комунікацій 2024 року: «[Ці знаряддя] можуть також бути інструментами "когнітивного забруднення", спотворення реальності частково або цілком фальшивими розповідями, у які вірять (і якими діляться), ніби вони були правдою». Текст на vatican.va.
28Antiqua et nova, № 59: «[ШІ] слід розглядати як те, чим він є: знаряддя, а не особа».
29Antiqua et nova, № 61: «Хоча ШІ може імітувати емпатійні відповіді, чітко особиста і реляційна природа справжньої емпатії не може бути відтворена штучними системами».
30Antiqua et nova, № 63: «якщо ми замінимо ці стосунки і стосунки з Богом технічними засобами, ми ризикуємо замінити справжні стосунки неживим симулякром».
31Antiqua et nova, № 90: дані «несуть не лише інформацію, а й особисте і реляційне знання, яке в дедалі більш оцифрованому контексті може стати владою над індивідом».
32Папа Франциск, Послання до Дня миру 2024 року, № 5: «Фундаментальна повага до людської гідності передбачає відмову ототожнювати унікальність особи з набором даних».
33Antiqua et nova, № 96: великі моделі ШІ «потребують великих кількостей енергії і води» для свого навчання і функціонування та значною мірою спричиняють викиди CO2.
34Antiqua et nova, № 81: «суттєвим завданням освіти є формувати інтелект до доброго міркування про всі предмети, до прямування до істини і її осягнення».
35Antiqua et nova, № 79: «Фізична присутність учителя створює реляційну динаміку, яку ШІ відтворити не може».
36Папа Франциск, Промова на саміті «Великої сімки», 14 червня 2024 року: «Ми повинні гарантувати і захищати простір значущого людського контролю над процесом вибору програм штучного інтелекту: від цього залежить сама людська гідність».
37Папа Франциск, Послання до Дня соціальних комунікацій 2024 року: «Мудрість серця є, отже, тією чеснотою, яка дозволяє нам сплітати докупи ціле і частини, рішення та їхні наслідки, висоти і крихкості, минуле і майбутнє, я і ми».
38Папа Франциск, Послання до Дня миру 2024 року, № 8: «Я закликаю Спільноту націй працювати разом, щоб ухвалити обов'язковий міжнародний договір, який регулює розвиток і використання штучного інтелекту в його численних формах».
39Antiqua et nova, № 105: «зухвала спроба замінити Бога ділом власних рук є ідолопоклонством».
40Папа Франциск, Послання до Дня соціальних комунікацій 2024 року: йдеться про те, щоб «пробудити людину від гіпнозу, у який вона впадає внаслідок свого марення всемогутності, вважаючи себе повністю автономним і самореферентним суб'єктом, відділеним від усякого соціального зв'язку і таким, що забув про свій статус сотворіння».
41Antiqua et nova, № 109, цит. Йоан Павло II, Redemptor hominis (1979), № 15: суттєве питання прогресу полягає в тому, «чи людина [...] стає справді кращою, тобто духовно зрілішою».
42Папа Франциск, Промова на саміті «Великої сімки», 14 червня 2024 року: «Ми засудили б людство на майбутнє без надії, якби відібрали в людей здатність вирішувати за себе і за своє життя, засудивши їх на залежність від виборів машин».
43