Искусственный интеллект и католическое учение

Что говорит Католическая Церковь об искусственном интеллекте? ИИ — мощный и двойственный инструмент, законный плод тварного разума, но не личность: он вычисляет, а не мыслит. Его мерой остаётся достоинство человека. Нота Antiqua et nova (2025) различает человеческий интеллект и ИИ и обозначает главные социальные вопросы: труд, автономное оружие, дезинформация, отношения, частная жизнь.

Ignispedia

Искусственный интеллект (ИИ) обозначает совокупность компьютерных систем, способных выполнять задачи, которые до сих пор связывались с человеческим разумом: распознавать изображение, переводить с языка на язык, вести автомобиль, составлять текст, ставить диагноз. За несколько лет эти системы вышли из лабораторий в повседневную жизнь миллиардов людей. Такая мощь, имитирующая некоторые действия духа и проникающая в труд, здравоохранение, информацию, войну и даже человеческие отношения, не могла остаться вне нравственного взгляда Церкви.

Перед лицом ИИ Церковь отвечает ни очарованием религии прогресса, ни реактивным страхом, отвергающим всякую машину. Её позиция держится на твёрдом различии, установленном опорным документом по этому вопросу — заметкой Antiqua et nova (2025): ИИ — это инструмент, законный плод разума, данного человеку Богом, но он не является личностью. Его «разум» чисто функциональный: он вычисляет, исполняет, имитирует, но он не мыслит, не понимает и ни за что не отвечает. Поэтому мерой всей его этики остаётся достоинство человеческой личности.

Это различение — не дань моде. Избранный в мае 2025 года папа Лев XIV прямо объяснил выбор своего имени отсылкой ко Льву XIII и к Rerum novarum: подобно тому как Церковь встретила первую промышленную революцию своим социальным учением, она должна сегодня ответить на новую революцию — революцию ИИ, ставящую «новые вызовы для защиты человеческого достоинства, справедливости и труда»[1].

Эта статья излагает католический взгляд на искусственный интеллект в целом: что такое ИИ, почему само слово «интеллект» отчасти обманчиво, в чём ИИ благ и в чём он двойственен, какие большие социальные и нравственные вопросы он поднимает, что предлагает учительство Церкви и каков предельный духовный риск. Особые области — притязание переделать человека машиной, биоэтика, цифровые зависимости, одиночество в сети, истина в СМИ — имеют каждая свою статью: мы отсылаем к ним, не дублируя их.

Почему Церковь говорит об искусственном интеллекте ?

ИИ охотно относят к миру инженера, стартапа или лаборатории, а не морали. Это ошибка перспективы. То, как общество задумывает, внедряет и направляет свою техническую мощь, затрагивает его представление о человеке, его справедливость к самым слабым и тот смысл, который оно придаёт прогрессу. ИИ насквозь является социальным вопросом.

Социальный вопрос первостепенной важности

Ни одна крупная область существования уже не ускользает от ИИ. Он определяет то, как мы трудимся (автоматизация, отбор кандидатов, организация труда), как мы лечимся (помощь в диагностике, медицинская визуализация), как мы получаем информацию (СМИ, сети, алгоритмические рекомендации), как нас судят (предиктивное правосудие, социальный скоринг, наблюдение) и даже как мы воюем (автономное оружие). Antiqua et nova подчёркивает: ИИ «знаменует новый важный этап в отношениях человечества с технологией»[2]. Реальность, влияющая на все эти коллективные решения, — уже не просто гаджет: она стала фактом цивилизации, а значит, собственным предметом социального и нравственного учения Церкви.

Новая промышленная революция: от Льва XIII ко Льву XIV

Преемственность поразительна. В 1891 году перед потрясениями первой промышленной революции — фабрики, пролетариат, конфликт капитала и труда — Лев XIII опубликовал Rerum novarum, акт рождения современного социального учения[3]. Более века спустя именно эта параллель определила выбор имени Льва XIV, первого папы, избранного в эпоху ИИ:

«Папа Лев XIII в исторической энциклике Rerum novarum рассмотрел социальный вопрос в контексте первой великой промышленной революции; а сегодня Церковь предлагает всем наследие своего социального учения, чтобы ответить на другую промышленную революцию и на развитие искусственного интеллекта, ставящие новые вызовы для защиты человеческого достоинства, справедливости и труда». — Лев XIV, Речь перед Коллегией кардиналов, 10 мая 2025 года[4]

Лев XIII, автор Rerum novarum (1891). Фотография Кейна, опубликованная в журнале Munsey's Magazine в 1898 году — Wikimedia Commons, общественное достояние.

Итак, ИИ рассматривается не как техническое любопытство, а как антропологическая перемена того масштаба, который породил социальное учение. Это говорит о серьёзности, с которой Церковь к нему относится.

Размышление, зревшее двадцать лет

Слово Церкви об ИИ отнюдь не импровизация. Оно коренится в столетнем размышлении о технике — от Gaudium et Spes (1965) до Laudato Si' (2015) — и уточнялось каскадом документов с 2020 года: Римский призыв к этике ИИ (Папская академия жизни, 2020), Послание на Всемирный день мира 2024 года, целиком посвящённое ИИ, Послание на Всемирный день социальных коммуникаций 2024 года, выступление папы Франциска на саммите «Большой семёрки» (июнь 2024 года — первое выступление папы перед «Семёркой») и, как вершина учения, заметка Antiqua et nova (январь 2025 года). Это ускорение показывает, что Церковь осознала срочность вопроса.

Что рассматривает эта статья — и куда она отсылает

Ради ясности эта статья держится уровня принципов и больших социальных вопросов. Особые области рассматриваются отдельно:

Здесь мы ищем католический компас, собственный искусственному интеллекту.

Что такое искусственный интеллект?

Основные семейства искусственного интеллекта и их реальный статус. Оригинальная инфографика Ignispedia, созданная с помощью ИИ.

Прежде чем судить, нужно понять — и прежде всего отбросить образы из научной фантастики. Реальный ИИ — это ни осознающий себя электронный мозг, ни злонамеренный робот: это совокупность статистических методов, которые обучаются на огромных массивах данных.

«Галактика» технологий, а не единое целое

Папа Франциск предупреждал ещё в 2024 году, что нельзя говорить об ИИ как о едином блоке:

«Искусственный интеллект следует понимать как галактику различных реальностей, и мы не можем заранее предполагать, что его развитие будет благотворно способствовать будущему человечества и миру между народами». — Папа Франциск, Послание на 57-й Всемирный день мира, № 2 (1 января 2024)[5]

Конкретно ИИ охватывает весьма различные семейства: системы, которые классифицируют (выявить опухоль на рентгеновском снимке, отфильтровать письмо), те, которые предсказывают (предвидеть поломку, мошенничество), те, которые рекомендуют (выбрать следующее видео), и — с 2022 года — генеративные системы, которые по запросу производят текст, изображения, голос или код. Именно последние — большие языковые модели, ставшие известными благодаря разговорным агентам, — создали у сотен миллионов людей впечатление, будто они разговаривают с разумной машиной.

Узкий ИИ, генеративный ИИ, «общий ИИ»: не смешивать всё

Следует различать три уровня, ведь в публичных спорах их постоянно смешивают:

УровеньЧто это такоеРеальный статус
Узкий ИИСистема, обученная одной конкретной задаче (играть в шахматы, переводить, распознавать лицо)Вездесущ, весьма эффективен
Генеративный ИИСистема, создающая новое содержание (текст, изображение, голос), подражая статистическим закономерностямРаспространяется с 2022 года, бурно развивается
«Общий ИИ» (AGI)Гипотетический разум, равный человеку во всех областях и наделённый сознаниемНе существует; проекция, если не миф

Смешивать эти уровни — значит приписывать реальным статистическим инструментам возможности несуществующего разума и питать, наоборот, несоразмерные страхи или надежды. Именно к такой трезвости словаря и призывает Antiqua et nova.

Что ИИ делает — и чего он не делает

Вот решающий пункт, и он тоньше, чем кажется. Система ИИ может создать стихотворение, но она не знает, что пишет стихотворение; она может «ответить» на вопрос, но не понимает ни вопроса, ни своего ответа. Она вычисляет наиболее вероятное продолжение цепочки слов. Antiqua et nova формулирует это без обиняков:

«Её передовые характеристики наделяют ИИ изощрёнными способностями к выполнению задач, но не способностью мыслить». — Antiqua et nova, № 12[6]

Иными словами, ИИ воспроизводит результаты разума, не обладая его актом. Это различие, кажущееся отвлечённым, определяет всё последующее: именно оно запрещает обращаться с машиной как с субъектом.

Человеческий разум и «искусственный интеллект»: решающее различие

Весь нравственный спор об ИИ решается одним словом: разум. Если верить, что машина действительно разумна — в том смысле, в каком разумен человек, — тогда ничто не мешает доверять ей человеческие решения, привязываться к ней как к личности или мечтать слиться с ней. Если же понять, что радикально разделяет одно и другое, всё проясняется. Это сердцевина третьей части Antiqua et nova.

Слово «разум» отчасти обманчиво

Выражение «искусственный интеллект» — аналогия, а аналогия может вводить в заблуждение. В католической традиции разум — это не только способность решать задачи: это способность всей личности, открытая истине, благу, красоте и Богу. Поэтому документ чётко различает два употребления этого слова:

«Ведь в случае человека разум есть способность, относящаяся к личности в её целостности, тогда как в случае ИИ он понимается в функциональном смысле». — Antiqua et nova, № 10[7]

«Разум» машины измеряется её способностью выполнять задачи; разум человека касается того, что он есть. Одно и то же слово покрывает две реальности разного порядка — и смешивать их значит попасть в первую ловушку.

Человеческий разум воплощён, духовен и отношенчен

Почему человек мыслит там, где машина лишь вычисляет? Потому что его разум — не программа, работающая в пустоте: он несом телесной природой, оживлён духовной душой и раскрывается в отношениях. Человек познаёт плотью, чувствами, раненой и радостной памятью, свободой, открытостью другому и Богу.

«Подлинная вовлечённость требует принятия всего объёма бытия: духовного, познавательного, телесного и отношенческого». — Antiqua et nova, № 26[8]

Машина, «лишённая физического тела», не знает ничего из этого: она опирается на вычислительные рассуждения и обучение[9] и остаётся, по словам текста, в основе своей замкнутой в логико-математических рамках[10]. Она может манипулировать знаками любви, боли или молитвы, никогда не имея их опыта. Вот почему она не может заменить присутствие друга, сиделки или учителя.

Машина вычисляет, она не мыслит

Папа Франциск подытожил это на саммите «Большой семёрки» в нарочито скромной формуле:

«Искусственный интеллект — это инструмент, предназначенный для решения задачи, и работает он посредством логической последовательности алгебраических операций». — Папа Франциск, Выступление на саммите G7, Борго-Эньяция, 14 июня 2024[11]

Логическая последовательность алгебраических операций: вот чем, в сущности, является даже самый впечатляющий ИИ. Его мощь — от масштаба (миллиарды параметров, океаны данных), а не от искры мысли. Следствие огромно: то, что не является субъектом, не может нести ответственность, а то, что не мыслит, не может решать о благе.

Достоинство личности — мера всей этики ИИ

Одно и то же слово обозначает две реальности разного порядка: личность и функциональный инструмент. Оригинальная инфографика Ignispedia, созданная ИИ.

Если ИИ не является личностью, то личностью остаётся мера. Вся католическая этика ИИ вытекает из одного принципа: неотъемлемого достоинства человека, созданного по образу Божию. Именно оно определяет, что дозволено, а что недопустимо никогда.

Ценность человека не определяется его результатами

В культуре, одержимой эффективностью, ИИ может внушить мысль, будто человек «стоит» столько, сколько он производит, вычисляет или в чём преуспевает. Документ Antiqua et nova решительно опрокидывает эту логику — и здесь же решается ответ трансгуманизму:

«Ценность личности зависит не от обладания особыми способностями, когнитивными и технологическими достижениями или личными успехами, но от её внутреннего достоинства, основанного на том, что она создана по образу Божию». — Antiqua et nova, № 34[12]

Новорождённый, больной Альцгеймером, человек с инвалидностью, которых никакая машина не сочтёт «эффективными», обладают ровно тем же достоинством, что учёный или чемпион. Никакая алгоритмическая система оценок, никакое измерение «полезности» не может умалить это достоинство. Именно его защищает соседняя статья о достоинстве человеческой личности.

Только человек — морально ответственный субъект

Из достоинства вытекает ответственность. Машина может выполнить команду, но никогда не ответит за неё перед совестью. Antiqua et nova настаивает: «только человек является подлинно моральным деятелем»[13]. Поэтому всегда иллюзорно и опасно «доверять» ИИ моральное решение, воображая, будто оно несёт его бремя: за каждой системой стоят разработчики, владельцы и пользователи-люди, которые остаются ответственными за её последствия. Римский призыв делает это одним из своих принципов: «всегда должен быть кто-то, кто берёт на себя ответственность за то, что делает машина»[14].

Этика на службе личности: «алгор-этика»

Ещё в 2020 году Папская академия защиты жизни собрала технологических гигантов (Microsoft, IBM), международные институты (ФАО) и итальянское государство вокруг основополагающего текста — Римского призыва к этике ИИ (Rome Call for AI Ethics) — и нового слова: алгор-этика, то есть этика, заложенная уже в само проектирование алгоритмов. Текст провозглашает шесть принципов, которые католическое учение признаёт требованиями человеческого достоинства:

ПринципТребование
ПрозрачностьСистемы ИИ должны быть понятными
ИнклюзивностьНе подвергать дискриминации никого, ибо каждый человек обладает равным достоинством
ОтветственностьКто-то должен всегда отвечать за то, что делает машина
БеспристрастностьНе создавать несправедливых предвзятостей и не следовать им
НадёжностьСистемы должны быть безопасными и надёжными
Безопасность и конфиденциальностьЗащищать данные и частную жизнь людей
Прозрачность, инклюзивность, ответственность, беспристрастность, надёжность, безопасность и конфиденциальность. Оригинальная инфографика Ignispedia, созданная ИИ.

Эти принципы — не внешние ограничения, навязанные технике: они переводят на язык инженеров то, что вера утверждает о человеке[15].

Хорош ли искусственный интеллект? Двойственный инструмент

Постоянно возвращается вопрос: нужно ли бояться ИИ? Ответ Церкви одновременно взвешен и твёрд. ИИ — реальное благо, но благо двойственное, и всё зависит от его применения и от места, которое ему отводят.

Законный плод сотворённого разума

ИИ рождается из разума, который Бог доверил человеку, чтобы «возделывать и хранить» землю (Быт 2, 15). Создавать его, совершенствовать, ставить на службу общему благу — само по себе доброе дело. Antiqua et nova прямо относит научное и техническое исследование к «сотрудничеству мужчины и женщины с Богом»[16]. Церковь не испытывает никакой ностальгии по дотехнической эпохе: она признаёт огромные возможные блага ИИ — в медицине, в научных исследованиях, в доступе к знаниям, в помощи уязвимым людям.

«Внутреннее достоинство каждой личности и братство, связывающее нас как членов единой человеческой семьи, должны оставаться основой развития новых технологий». — Папа Франциск, Послание на Всемирный день мира 2024 года, № 2[17]

Но никакая техника не является морально нейтральной

Часто можно услышать, что «техника нейтральна, всё зависит от применения». Это опасная полуправда. Система ИИ уже сама направляет поведение: рекомендательный алгоритм не нейтрален по отношению к вниманию, система оценок не нейтральна по отношению к справедливости, автономное оружие не нейтрально по отношению к насилию. Катехизис напоминает это обо всякой технике:

«Иллюзорно претендовать на моральную нейтральность научных исследований и их применения». — Катехизис Католической Церкви, § 2294[18]

Утверждать, что ИИ не имеет ничего общего с моралью, — значит уже занимать моральную позицию, причём худшую: ту, что оставляет поле свободным грубой эффективности и интересу сильнейшего.

Риск усиления «технократической парадигмы»

ИИ может стать самым мощным инструментом того, что энциклика Laudato Si' называет технократической парадигмой: менталитета, сводящего реальность к тому, что можно исчислить, присвоить и произвести[19]. Документ Antiqua et nova прямо предостерегает от этого риска в экономической сфере:

«Мы не можем допустить, чтобы такой мощный и необходимый инструмент, как искусственный интеллект, укреплял подобную парадигму». — Antiqua et nova, № 68[20]

Опасность — не машина, а видение мира, которое она может навязать: мир, где всё — природа, труд, информация и в конце концов сам человек — становится данными для эксплуатации. Именно этот уклон описывает статья Техника и человек.

Главные моральные и социальные вопросы, поставленные ИИ

Пять областей, в которых технический прогресс должен оставаться подчинён человеческому достоинству. Оригинальная инфографика Ignispedia, созданная ИИ.

Именно на конкретном проверяется компас. Пятая часть Antiqua et nova рассматривает области, в которых ИИ затрагивает благо человека. Здесь мы удерживаем самые решающие из них для социального вопроса.

ИИ и труд: освобождать или исключать?

Автоматизация может освободить человека от тяжёлых и повторяющихся задач — благо, которое социальное учение приветствует. Но она может и исключать: концентрировать богатство, уничтожать рабочие места, не создавая новых, превращать работника в простой придаток машины. Antiqua et nova ставит чёткий предел:

«Не следует стремиться всё больше заменять человеческий труд техническим прогрессом». — Antiqua et nova, № 70[21]

Труд — это не просто издержки, которые нужно оптимизировать: это место достоинства, пропитания и самореализации личности. Послание ко Дню мира 2024 года предупреждает, что в технократической парадигме «знание и богатство [могут] накапливаться в руках немногих»[22], в ущерб общему благу и всеобщему назначению благ. Вопрос не в том, «нужно ли автоматизировать?», а в том, «кому это служит?» — в этом весь смысл учения о труде, унаследованного от Rerum novarum.

ИИ и война: «никакая машина не должна выбирать, отнимать ли жизнь»

Это, без сомнения, самый серьёзный пункт. Автономные системы вооружений могут выбирать цель и наносить удар без прямого вмешательства человека. Между тем решение о жизни или смерти человека — это моральный акт, который не может взять на себя никакой расчёт. Папа Франциск твёрдо заявил об этом на саммите G7:

«Никакая машина никогда не должна выбирать, отнимать ли жизнь у человеческого существа». — Папа Франциск, Выступление на саммите G7, 14 июня 2024 года[23]

Antiqua et nova повторяет то же требование — «Никакая машина никогда не должна выбирать, отнимать ли жизнь у человеческого существа»[24], — а Послание ко Дню мира 2024 года даёт его глубинное основание:

Алгоритмическая помощь не может отменить моральную ответственность человека. Оригинальная инфографика Ignispedia, созданная ИИ.

«Автономные системы вооружений никогда не смогут быть морально ответственными субъектами: исключительная человеческая способность к моральному суждению и этическому решению есть нечто большее, чем сложный набор алгоритмов». — Папа Франциск, Послание ко Дню мира 2024 года, № 6[25]

Папа Франциск на саммите G7 в Борго-Эньяции, 14 июня 2024 года. Фото European Union — Wikimedia Commons, повторное использование разрешено с указанием авторства © Европейский союз, 1998–2026.

Отсюда призыв к реальному и постоянному человеческому надзору над вооружением и к «международному договору, имеющему обязательную силу», регулирующему ИИ[26].

ИИ, дезинформация и «дипфейки»

Генеративный ИИ позволяет за несколько секунд создавать ложные изображения, ложные голоса, ложные речи, неотличимые от настоящих: так называемые дипфейки. Antiqua et nova предупреждает, что ИИ «создаёт манипулированный контент и ложную информацию, которые [...] могут легко ввести в заблуждение»[27]. Послание ко Дню социальных коммуникаций 2024 года называет это зло «когнитивным загрязнением»:

«[Эти инструменты] могут быть также орудиями „когнитивного загрязнения“, искажения реальности посредством частично или полностью ложных рассказов, которым верят — и которыми делятся — как если бы они были правдой». — Папа Франциск, Послание ко Всемирному дню социальных коммуникаций 2024 года[28]

Речь идёт не только о фактической ошибке: подрывается само доверие, цемент всякой общей жизни. Католический ответ касается как этики разработчиков, так и формирования совести — тема, развитая в статье Правда в СМИ.

ИИ и человеческие отношения: риск подмены

Приложения уже предлагают «друзей», «наперсников» и даже искусственных «спутников». Опасность — принять подмену за отношение. Antiqua et nova устанавливает правило:

«[ИИ] следует рассматривать таким, каков он есть: как инструмент, а не как личность». — Antiqua et nova, № 59[29]

Ибо подлинная эмпатия, говорится в тексте, «не может быть воспроизведена искусственными системами»[30]: программа может подражать словам сострадания, но никогда не может его пережить. И риск назван прямо:

«Если мы заменим эти отношения [...] технологическими средствами, мы рискуем заменить подлинное отношение подменой». — Antiqua et nova, № 62-63[31]

Заменить машиной лицо другого — значит подвергнуть себя ещё более глубокому одиночеству, тому, что описывает статья Современное одиночество и что питает цифровые зависимости.

ИИ, частная жизнь и слежка

ИИ питается данными — а наши данные говорят о том, кто мы есть. Antiqua et nova предупреждает, что эти данные «несут не только информацию, но и личные и отношенческие знания, которые [...] могут стать властью над индивидом»[32]. Массовая слежка, социальный рейтинг, профилирование: ИИ может служить беспрецедентному контролю над совестью и поведением. Уважение к достоинству требует, говорится в Послании ко Дню мира, «отказаться сводить уникальность личности к набору данных»[33]. Человек никогда не сводим к своему профилю.

ИИ и общий дом

Об этом часто забывают: крупные модели ИИ имеют значительную экологическую цену. Их обучение и работа «требуют больших количеств энергии и воды»[34] для питания и охлаждения огромных центров обработки данных. Вопрос об ИИ смыкается здесь с вопросом интегральной экологии и сохранения творения: прогресс, истощающий общий дом, — не настоящий прогресс.

ИИ и воспитание самых юных

ИИ может быть замечательным помощником в обучении, но он не может сформировать разум и передать человечность. Antiqua et nova напоминает, что «существенная задача образования — формировать ум, чтобы он рассуждал правильно»[35], а это предполагает усилие, память и терпение, а не перепоручение мышления машине, которая «делает домашние задания». И главное: «физическое присутствие учителя создаёт отношенческую динамику, которую ИИ не может воспроизвести»[36]. Воспитывать — значит пробуждать одну личность через другую личность: никакой алгоритмический наставник для этого недостаточен.

Сводная таблица: обещание и риск

Весь социальный вопрос ИИ можно свести к одной схеме — каждая область несёт обещание и риск, а компас остаётся тем же: человек.

ОбластьОбещаниеРискКатолический компас
ТрудОсвобождение от тяжёлых задачИсключение, концентрация богатстваТруд — место достоинства (№ 70)
ВойнаТочность, защитаАвтономное оружие, решающее убиватьНикакая машина не выбирает смерть (№ 100)
ИнформацияДоступ, перевод, знаниеДипфейки, «когнитивное загрязнение»Правда и доверие
ОтношенияСвязь, доступностьПодмена, изоляцияДругой — личность, а не инструмент (№ 59)
Частная жизньПерсонализированные услугиСлежка, профилирование, контрольЧеловек — не набор данных (Мир № 5)
Окружающая средаОптимизация, исследованияЭнергия, вода, углеродный следИнтегральная экология (№ 96)
ОбразованиеПоддержка, доступностьПерепоручение мышленияФормировать личность через личность (№ 79-81)

Ответ Магистериума: ориентиры и предложения

От Rome Call for AI Ethics до Льва XIV: шесть вех с 2020 по 2025 год. Оригинальная инфографика Ignispedia, созданная ИИ.

Перед лицом этих вызовов Церковь не ограничивается предупреждениями: она предлагает ориентиры и призывает к действию. Её недавнее слово строится вокруг пяти вех.

Antiqua et nova (2025), опорная нота

Опубликованная 28 января 2025 года Дикастерией вероучения и Дикастерией по культуре и образованию, Antiqua et nova — «древнее и новое» — является на сегодняшний день наиболее полным доктринальным текстом об ИИ. В 114 параграфах она основывает различение на христианской антропологии, различает человеческий и искусственный интеллект и проходит по всем главным социальным вопросам. Это опорный источник настоящей статьи.

Папа Франциск: мир, G7, «мудрость сердца»

2024 год ознаменовался тройным вмешательством:

  • Послание ко Дню мира, утверждающее, что ИИ нельзя априори считать благом и требующее, чтобы достоинство оставалось «в основе» всякого развития;
  • выступление на саммите G7, где, став первым папой перед главами государств G7, Франциск выступил за «пространство значимого человеческого контроля» над решениями ИИ, от которого зависит «само человеческое достоинство»[37];
  • Послание ко Дню социальных коммуникаций, которое противопоставляет холодности расчёта «мудрость сердца», «ту добродетель, которая позволяет нам соединять целое и части»[38].

Rome Call и «алго-этика»

Более ранний (2020 год) Rome Call for AI Ethics ценен тем, что собрал вокруг Церкви промышленных и международных участников вокруг шести конкретных принципов (см. выше). Он показывает, что католическое учение не отказывается от диалога с техникой: оно хочет вписать этику уже в само проектирование систем.

Призыв к регулированию

Постоянная черта этих текстов: ИИ нельзя оставлять на произвол одного лишь рынка или силы. Отсюда увещание Франциска к «международному договору, имеющему обязательную силу, который регулировал бы развитие и использование искусственного интеллекта»[39]. Регулирование — не враг инноваций: оно есть условие того, чтобы инновации служили человеку.

Главный риск: превратить ИИ в идола

Помимо социальных вопросов, документ Antiqua et nova указывает на более глубокую опасность духовного порядка. На древнее, как сам человек, искушение сделать себя богом посредством собственных творений.

Прометеевское искушение

Некоторые сторонники ИИ не стесняются говорить о создании «разума», превосходящего человека, о «победе над смертью», о сотворении сознания. Под современными одеждами это древнее идолопоклонство. Документ высказывается без двусмысленности:

«Самонадеянная попытка заменить Бога делом собственных рук есть идолопоклонство.» — Antiqua et nova, № 105[40]

Человек, поклоняющийся собственной технической мощи, в итоге становится рабом своего идола. Послание ко Дню социальных коммуникаций говорит о «бреде всемогущества», от которого человека необходимо пробудить[41]. Это именно та почва, на которой растёт трансгуманизм, мечтающий отменить человеческое состояние.

«Становится ли человек действительно лучше?»

Высший критерий прогресса, напоминает Antiqua et nova, цитируя святого Иоанна Павла II, — не приобретённое могущество, а возрастание внутреннего человека: главный вопрос в том, «становится ли человек [...] действительно лучше, то есть зрелее духовно»[42]. Цивилизация может умножать машины и при этом регрессировать в человечности. Технический прогресс является прогрессом человеческим лишь тогда, когда делает человека свободнее, справедливее, способнее любить.

Мудрость сердца, которой не будет ни у одной машины

Холодной мощи вычисления Евангелие противопоставляет разум иного порядка: мудрость сердца, плод Духа, умеющую различать добро, любить конкретно и давать Богу овладеть собой. Именно она, а не эффективность, составляет величие человека — и её не сможет воспроизвести никакая система, сколь бы мощной она ни была.

Как жить по-христиански в эпоху искусственного интеллекта?

Католическое различение не сводится к принципам: оно призывает к образу жизни. Из текстов вытекают несколько конкретных ориентиров.

Сохранять власть над техникой, не передавать ей свою совесть

Использовать ИИ как инструмент — да; отдавать ему свои решения, суждение, мышление — нет. Христианин остаётся ответственным за то, что производит, распространяет и во что верит. Проверять источники, отказываться распространять сомнительный контент, сохранять критический ум: этого требует любовь к истине.

Ставить живых людей выше экранов

Там, где ИИ предлагает смоделированные отношения, христианин выбирает отношения настоящие: присутствие, лицо, подаренное время, терпение. Борьба с одиночеством и цифровыми зависимостями проходит через ежедневное решение предпочесть живого другого его алгоритмическому отражению.

Ставить ИИ на службу самым слабым

Евангельский критерий неизменен: благословенно то, что служит «малым сим». ИИ, который лечит, включает, облегчает тяготы бедных, исполняет своё призвание инструмента; ИИ, который следит, исключает или порабощает, предаёт его. Различение всегда совершается в свете общего блага.

Пребывать в поклонении, а не в очарованности

Наконец, глубочайшее лекарство от технического идолопоклонства — поклонение истинному Богу. Человек, знающий, Кому он принадлежит, не станет простираться перед собственными машинами. Молитва, таинственная жизнь, созерцание возвращают человеку верную меру его самого: любимое творение, а не творец собственного спасения.

«Мы обрекли бы человечество на будущее без надежды, если бы отняли у людей способность самим решать за себя и за свою жизнь, обрекши их на зависимость от решений машин.» — Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года[43]

Искусственный интеллект, принимаемый за то, чем он является, — за удивительный и грозный инструмент, — может безмерно послужить человеку. Принимаемый за то, чем он не является, — за личность, сознание, бога, — он ему угрожает. Между тем и другим проходит именно та граница, о которой Церковь, верная своей миссии, не перестаёт напоминать: неотъемлемое достоинство человеческой личности.

Для дальнейшего чтения


Источники основные: Дикастерия вероучения и Дикастерия культуры и образования, Antiqua et nova (28 января 2025 года); папа Франциск, Искусственный интеллект и мир, Послание на 57-й Всемирный день мира (1 января 2024 года), выступление на саммите Группы семи (14 июня 2024 года) и Послание на 58-й Всемирный день социальных коммуникаций (2024 год); Папская академия жизни, Римский призыв к этике ИИ (28 февраля 2020 года); Лев XIV, речь к Коллегии кардиналов (10 мая 2025 года). Официальные тексты на сайте vatican.va.

Примечания и источники

  1. Лев XIV, Речь к Коллегии кардиналов, 10 мая 2025 года: «Папа Лев XIII исторической энцикликой Rerum novarum обратился к социальному вопросу в контексте первой великой промышленной революции; и сегодня Церковь предлагает всем своё наследие социального учения, чтобы ответить на новую промышленную революцию и на развитие искусственного интеллекта, ставящие новые вызовы для защиты человеческого достоинства, справедливости и труда.» Официальный текст на сайте vatican.va.

    1 4
  2. Дикастерия вероучения и Дикастерия культуры и образования, Antiqua et nova. Заметка о соотношении искусственного интеллекта и человеческого разума, 28 января 2025 года, № 4: ИИ «знаменует новый важный этап в отношениях человечества с технологиями». Текст на сайте vatican.va.

    2
  3. Лев XIII, Rerum novarum, 15 мая 1891 года: первая социальная энциклика о положении рабочих перед лицом промышленной революции. См. статью Rerum novarum.

    3
  4. Папа Франциск, Искусственный интеллект и мир, Послание на 57-й Всемирный день мира, 1 января 2024 года (датировано 8 декабря 2023 года), № 2: «Итак, искусственный интеллект следует понимать как галактику различных реальностей, и мы не можем априори предполагать, что его развитие благотворно послужит будущему человечества и миру между народами.» Текст на сайте vatican.va.

    5
  5. Antiqua et nova, № 12: «Его передовые характеристики наделяют ИИ изощрёнными способностями к выполнению задач, но не способностью мыслить.»

    6
  6. Antiqua et nova, № 10: «В случае человека разум есть способность, относящаяся к личности в её целостности, тогда как в случае ИИ он понимается в функциональном смысле.»

    7
  7. Antiqua et nova, № 26: «Подлинная вовлечённость требует принятия всей полноты бытия: духовного, познавательного, телесного и отношенческого.»

    8
  8. Antiqua et nova, № 31: ИИ, «лишённый физического тела, опирается на вычислительное рассуждение и обучение».

    9
  9. Antiqua et nova, № 31: «хотя ИИ обрабатывает и имитирует некоторые проявления разума, он остаётся по существу заключённым в логико-математические рамки».

    10
  10. Папа Франциск, Выступление на сессии Группы семи по искусственному интеллекту, Борго-Эньяция (Апулия), 14 июня 2024 года: «Искусственный интеллект есть инструмент, созданный для решения задачи, и действует посредством логической последовательности алгебраических операций.» Первый папа, обратившийся к саммиту Группы семи. Текст на сайте vatican.va.

    11
  11. Antiqua et nova, № 34: «ценность личности зависит не от обладания особыми способностями, познавательными и технологическими достижениями или личными успехами, а от её неотъемлемого достоинства, основанного на том, что она сотворена по образу Божию».

    12
  12. Antiqua et nova, № 39: «только человек является подлинно моральным деятелем», то есть субъектом, несущим нравственную ответственность.

    13
  13. Папская академия жизни / Фонд RenAIssance, Римский призыв к этике ИИ, Рим, 28 февраля 2020 года, принцип ответственности: «всегда должен быть кто-то, кто несёт ответственность за то, что делает машина» (фр. пер. англ. «there must always be someone who takes responsibility for what a machine does»).

    14
  14. Римский призыв к этике ИИ, 28 февраля 2020 года: шесть принципов (transparency, inclusion, responsibility, impartiality, reliability, security and privacy), обобщённых неологизмом algorethics («алгор-этика»). Первые подписанты: Папская академия жизни, Microsoft, IBM, ФАО, министерство инноваций Италии. Текст на сайтах romecall.org и vatican.va.

    15
  15. Antiqua et nova, № 37: научное исследование и развитие технических навыков суть часть «сотрудничества мужчины и женщины с Богом в доведении видимого творения до совершенства».

    16
  16. Папа Франциск, Послание на Всемирный день мира 2024 года, № 2: «Неотъемлемое достоинство каждой личности и братство, связующее нас как членов единой человеческой семьи, должны оставаться основой развития новых технологий.»

    17
  17. Катехизис Католической Церкви, § 2294: «Иллюзорно претендовать на нравственную нейтральность научного исследования и его применений.»

    18
  18. Папа Франциск, Laudato Si, 24 мая 2015 года, № 106: описание «технократической парадигмы» как «однородной и одномерной парадигмы», прилагаемой ко всей реальности. См. Техника и человек.

    19
  19. Antiqua et nova, № 68: предостережение против усиления технократической парадигмы в сфере экономики и труда — «мы не можем допустить, чтобы столь мощный и необходимый инструмент, как искусственный интеллект, усиливал такую парадигму; напротив, мы должны сделать искусственный интеллект оплотом именно против её расширения».

    20
  20. Antiqua et nova, № 70: «мы не должны стремиться всё больше заменять человеческий труд техническим прогрессом».

    21
  21. Папа Франциск, Послание к Дню мира 2024 года, № 4: при технократической парадигме «неравенство может расти несоразмерно, знание и богатство скапливаться в руках немногих, с серьёзными рисками для демократических обществ и мирного сосуществования».

    22
  22. Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года: «Ни одна машина никогда не должна решать отнять жизнь у человеческого существа.» (Следует отличать от параллельной формулировки Antiqua et nova № 100, где сказано «лишить жизни».)

    23
  23. Antiqua et nova, № 100: «Ни одна машина никогда не должна решать лишить жизни человеческое существо.» О летальных автономных системах вооружений, лишённых «исключительно человеческой способности нравственного суждения».

    24
  24. Папа Франциск, Послание к Дню мира 2024 года, № 6: «Автономные системы вооружений никогда не смогут быть морально ответственными субъектами: исключительно человеческая способность нравственного суждения и этического решения есть нечто большее, чем сложный набор алгоритмов.»

    25
  25. Папа Франциск, Послание к Дню мира 2024 года, № 8: призыв к «надлежащему, значимому и последовательному человеческому надзору за системами вооружений» и к принятию «обязательного международного договора» об ИИ.

    26
  26. Antiqua et nova, № 86: ИИ «порождает манипулированный контент и ложную информацию, которые, будучи весьма трудноотличимыми от реальных данных, могут легко вводить в заблуждение».

    27
  27. Папа Франциск, Искусственный интеллект и мудрость сердца: к полностью человеческой коммуникации, Послание на 58-й Всемирный день социальных коммуникаций 2024 года: «[Эти инструменты] могут быть также орудиями „когнитивного загрязнения“, искажения реальности посредством частично или полностью ложных рассказов, в которые верят — и которыми делятся — как если бы они были правдой.» Текст на сайте vatican.va.

    28
  28. Antiqua et nova, № 59: «[ИИ] следует рассматривать как то, чем он является: инструмент, а не личность.»

    29
  29. Antiqua et nova, № 61: «явно личностная и отношенческая природа подлинной эмпатии не может быть воспроизведена искусственными системами».

    30
  30. Antiqua et nova, № 62-63: «если мы заменим эти отношения [и отношение с Богом] техническими средствами, мы рискуем заменить подлинное отношение видимостью».

    31
  31. Antiqua et nova, № 90: данные «несут не только информацию, но и личное и отношенческое знание, которое в условиях всё большей цифровизации может стать властью над человеком».

    32
  32. Папа Франциск, Послание к Дню мира 2024 года, № 5: «Фундаментальное уважение человеческого достоинства предполагает отказ сводить уникальность личности к набору данных.»

    33
  33. Antiqua et nova, № 96: крупные модели ИИ «требуют больших количеств энергии и воды» для своего обучения и работы и вносят значительный вклад в выбросы CO2.

    34
  34. Antiqua et nova, № 81: «важнейшая задача образования — формировать ум так, чтобы он здраво рассуждал обо всех предметах, стремился к истине и постигал её».

    35
  35. Antiqua et nova, № 79: «Физическое присутствие учителя создаёт отношенческую динамику, которую ИИ воспроизвести не может.»

    36
  36. Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года: «Мы должны гарантировать и защищать пространство значимого человеческого контроля над процессом выбора программ искусственного интеллекта: от этого зависит само человеческое достоинство.»

    37
  37. Папа Франциск, Послание ко Дню социальных коммуникаций 2024 года: «Мудрость сердца есть, таким образом, та добродетель, которая позволяет нам связывать воедино целое и части, решения и их последствия, высоты и хрупкости, прошлое и будущее, я и мы.»

    38
  38. Папа Франциск, Послание к Дню мира 2024 года, № 8: «Я призываю Сообщество наций трудиться сообща, чтобы принять обязательный международный договор, регулирующий разработку и использование искусственного интеллекта в его многообразных формах.»

    39
  39. Antiqua et nova, № 105: «самонадеянная попытка заменить Бога делом собственных рук есть идолопоклонство».

    40
  40. Папа Франциск, Послание ко Дню социальных коммуникаций 2024 года: речь о том, чтобы «пробудить человека от гипноза, в который он впадает вследствие своего бреда всемогущества, считая себя полностью автономным и самодостаточным субъектом, отделённым от всякой социальной связи и забывшим о своём статусе творения».

    41
  41. Antiqua et nova, № 109, цит. Иоанн Павел II, Redemptor hominis (1979), № 15: главный вопрос прогресса — «становится ли человек [...] действительно лучше, то есть зрелее духовно».

    42
  42. Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года: «Мы обрекли бы человечество на будущее без надежды, если бы отняли у людей способность самим решать за себя и за свою жизнь, обрекши их на зависимость от решений машин.»

    43