Искусственный интеллект (ИИ) обозначает совокупность компьютерных систем, способных выполнять задачи, которые до сих пор связывались с человеческим разумом: распознавать изображение, переводить с языка на язык, вести автомобиль, составлять текст, ставить диагноз. За несколько лет эти системы вышли из лабораторий в повседневную жизнь миллиардов людей. Такая мощь, имитирующая некоторые действия духа и проникающая в труд, здравоохранение, информацию, войну и даже человеческие отношения, не могла остаться вне нравственного взгляда Церкви.
Перед лицом ИИ Церковь отвечает ни очарованием религии прогресса, ни реактивным страхом, отвергающим всякую машину. Её позиция держится на твёрдом различии, установленном опорным документом по этому вопросу — заметкой Antiqua et nova (2025): ИИ — это инструмент, законный плод разума, данного человеку Богом, но он не является личностью. Его «разум» чисто функциональный: он вычисляет, исполняет, имитирует, но он не мыслит, не понимает и ни за что не отвечает. Поэтому мерой всей его этики остаётся достоинство человеческой личности.
Это различение — не дань моде. Избранный в мае 2025 года папа Лев XIV прямо объяснил выбор своего имени отсылкой ко Льву XIII и к Rerum novarum: подобно тому как Церковь встретила первую промышленную революцию своим социальным учением, она должна сегодня ответить на новую революцию — революцию ИИ, ставящую «новые вызовы для защиты человеческого достоинства, справедливости и труда»[1].
Эта статья излагает католический взгляд на искусственный интеллект в целом: что такое ИИ, почему само слово «интеллект» отчасти обманчиво, в чём ИИ благ и в чём он двойственен, какие большие социальные и нравственные вопросы он поднимает, что предлагает учительство Церкви и каков предельный духовный риск. Особые области — притязание переделать человека машиной, биоэтика, цифровые зависимости, одиночество в сети, истина в СМИ — имеют каждая свою статью: мы отсылаем к ним, не дублируя их.
Почему Церковь говорит об искусственном интеллекте ?
ИИ охотно относят к миру инженера, стартапа или лаборатории, а не морали. Это ошибка перспективы. То, как общество задумывает, внедряет и направляет свою техническую мощь, затрагивает его представление о человеке, его справедливость к самым слабым и тот смысл, который оно придаёт прогрессу. ИИ насквозь является социальным вопросом.
Социальный вопрос первостепенной важности
Ни одна крупная область существования уже не ускользает от ИИ. Он определяет то, как мы трудимся (автоматизация, отбор кандидатов, организация труда), как мы лечимся (помощь в диагностике, медицинская визуализация), как мы получаем информацию (СМИ, сети, алгоритмические рекомендации), как нас судят (предиктивное правосудие, социальный скоринг, наблюдение) и даже как мы воюем (автономное оружие). Antiqua et nova подчёркивает: ИИ «знаменует новый важный этап в отношениях человечества с технологией»[2]. Реальность, влияющая на все эти коллективные решения, — уже не просто гаджет: она стала фактом цивилизации, а значит, собственным предметом социального и нравственного учения Церкви.
Новая промышленная революция: от Льва XIII ко Льву XIV
Преемственность поразительна. В 1891 году перед потрясениями первой промышленной революции — фабрики, пролетариат, конфликт капитала и труда — Лев XIII опубликовал Rerum novarum, акт рождения современного социального учения[3]. Более века спустя именно эта параллель определила выбор имени Льва XIV, первого папы, избранного в эпоху ИИ:
«Папа Лев XIII в исторической энциклике Rerum novarum рассмотрел социальный вопрос в контексте первой великой промышленной революции; а сегодня Церковь предлагает всем наследие своего социального учения, чтобы ответить на другую промышленную революцию и на развитие искусственного интеллекта, ставящие новые вызовы для защиты человеческого достоинства, справедливости и труда». — Лев XIV, Речь перед Коллегией кардиналов, 10 мая 2025 года[4]
Итак, ИИ рассматривается не как техническое любопытство, а как антропологическая перемена того масштаба, который породил социальное учение. Это говорит о серьёзности, с которой Церковь к нему относится.
Размышление, зревшее двадцать лет
Слово Церкви об ИИ отнюдь не импровизация. Оно коренится в столетнем размышлении о технике — от Gaudium et Spes (1965) до Laudato Si' (2015) — и уточнялось каскадом документов с 2020 года: Римский призыв к этике ИИ (Папская академия жизни, 2020), Послание на Всемирный день мира 2024 года, целиком посвящённое ИИ, Послание на Всемирный день социальных коммуникаций 2024 года, выступление папы Франциска на саммите «Большой семёрки» (июнь 2024 года — первое выступление папы перед «Семёркой») и, как вершина учения, заметка Antiqua et nova (январь 2025 года). Это ускорение показывает, что Церковь осознала срочность вопроса.
Что рассматривает эта статья — и куда она отсылает
Ради ясности эта статья держится уровня принципов и больших социальных вопросов. Особые области рассматриваются отдельно:
- притязание переделать человека, «улучшить» его или сделать бессмертным через слияние с машиной → трансгуманизм ;
- манипуляции с живым (генная инженерия, деторождение, CRISPR) → биоэтика ;
- человек подключённый: зависимость от экранов, потеря реального, изоляция → зависимости, современное одиночество, истина в СМИ ;
- общее отношение человека к своей технической мощи → техника и человек, частным применением которой является эта статья.
Здесь мы ищем католический компас, собственный искусственному интеллекту.
Что такое искусственный интеллект?
Прежде чем судить, нужно понять — и прежде всего отбросить образы из научной фантастики. Реальный ИИ — это ни осознающий себя электронный мозг, ни злонамеренный робот: это совокупность статистических методов, которые обучаются на огромных массивах данных.
«Галактика» технологий, а не единое целое
Папа Франциск предупреждал ещё в 2024 году, что нельзя говорить об ИИ как о едином блоке:
«Искусственный интеллект следует понимать как галактику различных реальностей, и мы не можем заранее предполагать, что его развитие будет благотворно способствовать будущему человечества и миру между народами». — Папа Франциск, Послание на 57-й Всемирный день мира, № 2 (1 января 2024)[5]
Конкретно ИИ охватывает весьма различные семейства: системы, которые классифицируют (выявить опухоль на рентгеновском снимке, отфильтровать письмо), те, которые предсказывают (предвидеть поломку, мошенничество), те, которые рекомендуют (выбрать следующее видео), и — с 2022 года — генеративные системы, которые по запросу производят текст, изображения, голос или код. Именно последние — большие языковые модели, ставшие известными благодаря разговорным агентам, — создали у сотен миллионов людей впечатление, будто они разговаривают с разумной машиной.
Узкий ИИ, генеративный ИИ, «общий ИИ»: не смешивать всё
Следует различать три уровня, ведь в публичных спорах их постоянно смешивают:
| Уровень | Что это такое | Реальный статус |
|---|---|---|
| Узкий ИИ | Система, обученная одной конкретной задаче (играть в шахматы, переводить, распознавать лицо) | Вездесущ, весьма эффективен |
| Генеративный ИИ | Система, создающая новое содержание (текст, изображение, голос), подражая статистическим закономерностям | Распространяется с 2022 года, бурно развивается |
| «Общий ИИ» (AGI) | Гипотетический разум, равный человеку во всех областях и наделённый сознанием | Не существует; проекция, если не миф |
Смешивать эти уровни — значит приписывать реальным статистическим инструментам возможности несуществующего разума и питать, наоборот, несоразмерные страхи или надежды. Именно к такой трезвости словаря и призывает Antiqua et nova.
Что ИИ делает — и чего он не делает
Вот решающий пункт, и он тоньше, чем кажется. Система ИИ может создать стихотворение, но она не знает, что пишет стихотворение; она может «ответить» на вопрос, но не понимает ни вопроса, ни своего ответа. Она вычисляет наиболее вероятное продолжение цепочки слов. Antiqua et nova формулирует это без обиняков:
«Её передовые характеристики наделяют ИИ изощрёнными способностями к выполнению задач, но не способностью мыслить». — Antiqua et nova, № 12[6]
Иными словами, ИИ воспроизводит результаты разума, не обладая его актом. Это различие, кажущееся отвлечённым, определяет всё последующее: именно оно запрещает обращаться с машиной как с субъектом.
Человеческий разум и «искусственный интеллект»: решающее различие
Весь нравственный спор об ИИ решается одним словом: разум. Если верить, что машина действительно разумна — в том смысле, в каком разумен человек, — тогда ничто не мешает доверять ей человеческие решения, привязываться к ней как к личности или мечтать слиться с ней. Если же понять, что радикально разделяет одно и другое, всё проясняется. Это сердцевина третьей части Antiqua et nova.
Слово «разум» отчасти обманчиво
Выражение «искусственный интеллект» — аналогия, а аналогия может вводить в заблуждение. В католической традиции разум — это не только способность решать задачи: это способность всей личности, открытая истине, благу, красоте и Богу. Поэтому документ чётко различает два употребления этого слова:
«Ведь в случае человека разум есть способность, относящаяся к личности в её целостности, тогда как в случае ИИ он понимается в функциональном смысле». — Antiqua et nova, № 10[7]
«Разум» машины измеряется её способностью выполнять задачи; разум человека касается того, что он есть. Одно и то же слово покрывает две реальности разного порядка — и смешивать их значит попасть в первую ловушку.
Человеческий разум воплощён, духовен и отношенчен
Почему человек мыслит там, где машина лишь вычисляет? Потому что его разум — не программа, работающая в пустоте: он несом телесной природой, оживлён духовной душой и раскрывается в отношениях. Человек познаёт плотью, чувствами, раненой и радостной памятью, свободой, открытостью другому и Богу.
«Подлинная вовлечённость требует принятия всего объёма бытия: духовного, познавательного, телесного и отношенческого». — Antiqua et nova, № 26[8]
Машина, «лишённая физического тела», не знает ничего из этого: она опирается на вычислительные рассуждения и обучение[9] и остаётся, по словам текста, в основе своей замкнутой в логико-математических рамках[10]. Она может манипулировать знаками любви, боли или молитвы, никогда не имея их опыта. Вот почему она не может заменить присутствие друга, сиделки или учителя.
Машина вычисляет, она не мыслит
Папа Франциск подытожил это на саммите «Большой семёрки» в нарочито скромной формуле:
«Искусственный интеллект — это инструмент, предназначенный для решения задачи, и работает он посредством логической последовательности алгебраических операций». — Папа Франциск, Выступление на саммите G7, Борго-Эньяция, 14 июня 2024[11]
Логическая последовательность алгебраических операций: вот чем, в сущности, является даже самый впечатляющий ИИ. Его мощь — от масштаба (миллиарды параметров, океаны данных), а не от искры мысли. Следствие огромно: то, что не является субъектом, не может нести ответственность, а то, что не мыслит, не может решать о благе.
Достоинство личности — мера всей этики ИИ
Если ИИ не является личностью, то личностью остаётся мера. Вся католическая этика ИИ вытекает из одного принципа: неотъемлемого достоинства человека, созданного по образу Божию. Именно оно определяет, что дозволено, а что недопустимо никогда.
Ценность человека не определяется его результатами
В культуре, одержимой эффективностью, ИИ может внушить мысль, будто человек «стоит» столько, сколько он производит, вычисляет или в чём преуспевает. Документ Antiqua et nova решительно опрокидывает эту логику — и здесь же решается ответ трансгуманизму:
«Ценность личности зависит не от обладания особыми способностями, когнитивными и технологическими достижениями или личными успехами, но от её внутреннего достоинства, основанного на том, что она создана по образу Божию». — Antiqua et nova, № 34[12]
Новорождённый, больной Альцгеймером, человек с инвалидностью, которых никакая машина не сочтёт «эффективными», обладают ровно тем же достоинством, что учёный или чемпион. Никакая алгоритмическая система оценок, никакое измерение «полезности» не может умалить это достоинство. Именно его защищает соседняя статья о достоинстве человеческой личности.
Только человек — морально ответственный субъект
Из достоинства вытекает ответственность. Машина может выполнить команду, но никогда не ответит за неё перед совестью. Antiqua et nova настаивает: «только человек является подлинно моральным деятелем»[13]. Поэтому всегда иллюзорно и опасно «доверять» ИИ моральное решение, воображая, будто оно несёт его бремя: за каждой системой стоят разработчики, владельцы и пользователи-люди, которые остаются ответственными за её последствия. Римский призыв делает это одним из своих принципов: «всегда должен быть кто-то, кто берёт на себя ответственность за то, что делает машина»[14].
Этика на службе личности: «алгор-этика»
Ещё в 2020 году Папская академия защиты жизни собрала технологических гигантов (Microsoft, IBM), международные институты (ФАО) и итальянское государство вокруг основополагающего текста — Римского призыва к этике ИИ (Rome Call for AI Ethics) — и нового слова: алгор-этика, то есть этика, заложенная уже в само проектирование алгоритмов. Текст провозглашает шесть принципов, которые католическое учение признаёт требованиями человеческого достоинства:
| Принцип | Требование |
|---|---|
| Прозрачность | Системы ИИ должны быть понятными |
| Инклюзивность | Не подвергать дискриминации никого, ибо каждый человек обладает равным достоинством |
| Ответственность | Кто-то должен всегда отвечать за то, что делает машина |
| Беспристрастность | Не создавать несправедливых предвзятостей и не следовать им |
| Надёжность | Системы должны быть безопасными и надёжными |
| Безопасность и конфиденциальность | Защищать данные и частную жизнь людей |
Эти принципы — не внешние ограничения, навязанные технике: они переводят на язык инженеров то, что вера утверждает о человеке[15].
Хорош ли искусственный интеллект? Двойственный инструмент
Постоянно возвращается вопрос: нужно ли бояться ИИ? Ответ Церкви одновременно взвешен и твёрд. ИИ — реальное благо, но благо двойственное, и всё зависит от его применения и от места, которое ему отводят.
Законный плод сотворённого разума
ИИ рождается из разума, который Бог доверил человеку, чтобы «возделывать и хранить» землю (Быт 2, 15). Создавать его, совершенствовать, ставить на службу общему благу — само по себе доброе дело. Antiqua et nova прямо относит научное и техническое исследование к «сотрудничеству мужчины и женщины с Богом»[16]. Церковь не испытывает никакой ностальгии по дотехнической эпохе: она признаёт огромные возможные блага ИИ — в медицине, в научных исследованиях, в доступе к знаниям, в помощи уязвимым людям.
«Внутреннее достоинство каждой личности и братство, связывающее нас как членов единой человеческой семьи, должны оставаться основой развития новых технологий». — Папа Франциск, Послание на Всемирный день мира 2024 года, № 2[17]
Но никакая техника не является морально нейтральной
Часто можно услышать, что «техника нейтральна, всё зависит от применения». Это опасная полуправда. Система ИИ уже сама направляет поведение: рекомендательный алгоритм не нейтрален по отношению к вниманию, система оценок не нейтральна по отношению к справедливости, автономное оружие не нейтрально по отношению к насилию. Катехизис напоминает это обо всякой технике:
«Иллюзорно претендовать на моральную нейтральность научных исследований и их применения». — Катехизис Католической Церкви, § 2294[18]
Утверждать, что ИИ не имеет ничего общего с моралью, — значит уже занимать моральную позицию, причём худшую: ту, что оставляет поле свободным грубой эффективности и интересу сильнейшего.
Риск усиления «технократической парадигмы»
ИИ может стать самым мощным инструментом того, что энциклика Laudato Si' называет технократической парадигмой: менталитета, сводящего реальность к тому, что можно исчислить, присвоить и произвести[19]. Документ Antiqua et nova прямо предостерегает от этого риска в экономической сфере:
«Мы не можем допустить, чтобы такой мощный и необходимый инструмент, как искусственный интеллект, укреплял подобную парадигму». — Antiqua et nova, № 68[20]
Опасность — не машина, а видение мира, которое она может навязать: мир, где всё — природа, труд, информация и в конце концов сам человек — становится данными для эксплуатации. Именно этот уклон описывает статья Техника и человек.
Главные моральные и социальные вопросы, поставленные ИИ
Именно на конкретном проверяется компас. Пятая часть Antiqua et nova рассматривает области, в которых ИИ затрагивает благо человека. Здесь мы удерживаем самые решающие из них для социального вопроса.
ИИ и труд: освобождать или исключать?
Автоматизация может освободить человека от тяжёлых и повторяющихся задач — благо, которое социальное учение приветствует. Но она может и исключать: концентрировать богатство, уничтожать рабочие места, не создавая новых, превращать работника в простой придаток машины. Antiqua et nova ставит чёткий предел:
«Не следует стремиться всё больше заменять человеческий труд техническим прогрессом». — Antiqua et nova, № 70[21]
Труд — это не просто издержки, которые нужно оптимизировать: это место достоинства, пропитания и самореализации личности. Послание ко Дню мира 2024 года предупреждает, что в технократической парадигме «знание и богатство [могут] накапливаться в руках немногих»[22], в ущерб общему благу и всеобщему назначению благ. Вопрос не в том, «нужно ли автоматизировать?», а в том, «кому это служит?» — в этом весь смысл учения о труде, унаследованного от Rerum novarum.
ИИ и война: «никакая машина не должна выбирать, отнимать ли жизнь»
Это, без сомнения, самый серьёзный пункт. Автономные системы вооружений могут выбирать цель и наносить удар без прямого вмешательства человека. Между тем решение о жизни или смерти человека — это моральный акт, который не может взять на себя никакой расчёт. Папа Франциск твёрдо заявил об этом на саммите G7:
«Никакая машина никогда не должна выбирать, отнимать ли жизнь у человеческого существа». — Папа Франциск, Выступление на саммите G7, 14 июня 2024 года[23]
Antiqua et nova повторяет то же требование — «Никакая машина никогда не должна выбирать, отнимать ли жизнь у человеческого существа»[24], — а Послание ко Дню мира 2024 года даёт его глубинное основание:
«Автономные системы вооружений никогда не смогут быть морально ответственными субъектами: исключительная человеческая способность к моральному суждению и этическому решению есть нечто большее, чем сложный набор алгоритмов». — Папа Франциск, Послание ко Дню мира 2024 года, № 6[25]
Отсюда призыв к реальному и постоянному человеческому надзору над вооружением и к «международному договору, имеющему обязательную силу», регулирующему ИИ[26].
ИИ, дезинформация и «дипфейки»
Генеративный ИИ позволяет за несколько секунд создавать ложные изображения, ложные голоса, ложные речи, неотличимые от настоящих: так называемые дипфейки. Antiqua et nova предупреждает, что ИИ «создаёт манипулированный контент и ложную информацию, которые [...] могут легко ввести в заблуждение»[27]. Послание ко Дню социальных коммуникаций 2024 года называет это зло «когнитивным загрязнением»:
«[Эти инструменты] могут быть также орудиями „когнитивного загрязнения“, искажения реальности посредством частично или полностью ложных рассказов, которым верят — и которыми делятся — как если бы они были правдой». — Папа Франциск, Послание ко Всемирному дню социальных коммуникаций 2024 года[28]
Речь идёт не только о фактической ошибке: подрывается само доверие, цемент всякой общей жизни. Католический ответ касается как этики разработчиков, так и формирования совести — тема, развитая в статье Правда в СМИ.
ИИ и человеческие отношения: риск подмены
Приложения уже предлагают «друзей», «наперсников» и даже искусственных «спутников». Опасность — принять подмену за отношение. Antiqua et nova устанавливает правило:
«[ИИ] следует рассматривать таким, каков он есть: как инструмент, а не как личность». — Antiqua et nova, № 59[29]
Ибо подлинная эмпатия, говорится в тексте, «не может быть воспроизведена искусственными системами»[30]: программа может подражать словам сострадания, но никогда не может его пережить. И риск назван прямо:
«Если мы заменим эти отношения [...] технологическими средствами, мы рискуем заменить подлинное отношение подменой». — Antiqua et nova, № 62-63[31]
Заменить машиной лицо другого — значит подвергнуть себя ещё более глубокому одиночеству, тому, что описывает статья Современное одиночество и что питает цифровые зависимости.
ИИ, частная жизнь и слежка
ИИ питается данными — а наши данные говорят о том, кто мы есть. Antiqua et nova предупреждает, что эти данные «несут не только информацию, но и личные и отношенческие знания, которые [...] могут стать властью над индивидом»[32]. Массовая слежка, социальный рейтинг, профилирование: ИИ может служить беспрецедентному контролю над совестью и поведением. Уважение к достоинству требует, говорится в Послании ко Дню мира, «отказаться сводить уникальность личности к набору данных»[33]. Человек никогда не сводим к своему профилю.
ИИ и общий дом
Об этом часто забывают: крупные модели ИИ имеют значительную экологическую цену. Их обучение и работа «требуют больших количеств энергии и воды»[34] для питания и охлаждения огромных центров обработки данных. Вопрос об ИИ смыкается здесь с вопросом интегральной экологии и сохранения творения: прогресс, истощающий общий дом, — не настоящий прогресс.
ИИ и воспитание самых юных
ИИ может быть замечательным помощником в обучении, но он не может сформировать разум и передать человечность. Antiqua et nova напоминает, что «существенная задача образования — формировать ум, чтобы он рассуждал правильно»[35], а это предполагает усилие, память и терпение, а не перепоручение мышления машине, которая «делает домашние задания». И главное: «физическое присутствие учителя создаёт отношенческую динамику, которую ИИ не может воспроизвести»[36]. Воспитывать — значит пробуждать одну личность через другую личность: никакой алгоритмический наставник для этого недостаточен.
Сводная таблица: обещание и риск
Весь социальный вопрос ИИ можно свести к одной схеме — каждая область несёт обещание и риск, а компас остаётся тем же: человек.
| Область | Обещание | Риск | Католический компас |
|---|---|---|---|
| Труд | Освобождение от тяжёлых задач | Исключение, концентрация богатства | Труд — место достоинства (№ 70) |
| Война | Точность, защита | Автономное оружие, решающее убивать | Никакая машина не выбирает смерть (№ 100) |
| Информация | Доступ, перевод, знание | Дипфейки, «когнитивное загрязнение» | Правда и доверие |
| Отношения | Связь, доступность | Подмена, изоляция | Другой — личность, а не инструмент (№ 59) |
| Частная жизнь | Персонализированные услуги | Слежка, профилирование, контроль | Человек — не набор данных (Мир № 5) |
| Окружающая среда | Оптимизация, исследования | Энергия, вода, углеродный след | Интегральная экология (№ 96) |
| Образование | Поддержка, доступность | Перепоручение мышления | Формировать личность через личность (№ 79-81) |
Ответ Магистериума: ориентиры и предложения
Перед лицом этих вызовов Церковь не ограничивается предупреждениями: она предлагает ориентиры и призывает к действию. Её недавнее слово строится вокруг пяти вех.
Antiqua et nova (2025), опорная нота
Опубликованная 28 января 2025 года Дикастерией вероучения и Дикастерией по культуре и образованию, Antiqua et nova — «древнее и новое» — является на сегодняшний день наиболее полным доктринальным текстом об ИИ. В 114 параграфах она основывает различение на христианской антропологии, различает человеческий и искусственный интеллект и проходит по всем главным социальным вопросам. Это опорный источник настоящей статьи.
Папа Франциск: мир, G7, «мудрость сердца»
2024 год ознаменовался тройным вмешательством:
- Послание ко Дню мира, утверждающее, что ИИ нельзя априори считать благом и требующее, чтобы достоинство оставалось «в основе» всякого развития;
- выступление на саммите G7, где, став первым папой перед главами государств G7, Франциск выступил за «пространство значимого человеческого контроля» над решениями ИИ, от которого зависит «само человеческое достоинство»[37];
- Послание ко Дню социальных коммуникаций, которое противопоставляет холодности расчёта «мудрость сердца», «ту добродетель, которая позволяет нам соединять целое и части»[38].
Rome Call и «алго-этика»
Более ранний (2020 год) Rome Call for AI Ethics ценен тем, что собрал вокруг Церкви промышленных и международных участников вокруг шести конкретных принципов (см. выше). Он показывает, что католическое учение не отказывается от диалога с техникой: оно хочет вписать этику уже в само проектирование систем.
Призыв к регулированию
Постоянная черта этих текстов: ИИ нельзя оставлять на произвол одного лишь рынка или силы. Отсюда увещание Франциска к «международному договору, имеющему обязательную силу, который регулировал бы развитие и использование искусственного интеллекта»[39]. Регулирование — не враг инноваций: оно есть условие того, чтобы инновации служили человеку.
Главный риск: превратить ИИ в идола
Помимо социальных вопросов, документ Antiqua et nova указывает на более глубокую опасность духовного порядка. На древнее, как сам человек, искушение сделать себя богом посредством собственных творений.
Прометеевское искушение
Некоторые сторонники ИИ не стесняются говорить о создании «разума», превосходящего человека, о «победе над смертью», о сотворении сознания. Под современными одеждами это древнее идолопоклонство. Документ высказывается без двусмысленности:
«Самонадеянная попытка заменить Бога делом собственных рук есть идолопоклонство.» — Antiqua et nova, № 105[40]
Человек, поклоняющийся собственной технической мощи, в итоге становится рабом своего идола. Послание ко Дню социальных коммуникаций говорит о «бреде всемогущества», от которого человека необходимо пробудить[41]. Это именно та почва, на которой растёт трансгуманизм, мечтающий отменить человеческое состояние.
«Становится ли человек действительно лучше?»
Высший критерий прогресса, напоминает Antiqua et nova, цитируя святого Иоанна Павла II, — не приобретённое могущество, а возрастание внутреннего человека: главный вопрос в том, «становится ли человек [...] действительно лучше, то есть зрелее духовно»[42]. Цивилизация может умножать машины и при этом регрессировать в человечности. Технический прогресс является прогрессом человеческим лишь тогда, когда делает человека свободнее, справедливее, способнее любить.
Мудрость сердца, которой не будет ни у одной машины
Холодной мощи вычисления Евангелие противопоставляет разум иного порядка: мудрость сердца, плод Духа, умеющую различать добро, любить конкретно и давать Богу овладеть собой. Именно она, а не эффективность, составляет величие человека — и её не сможет воспроизвести никакая система, сколь бы мощной она ни была.
Как жить по-христиански в эпоху искусственного интеллекта?
Католическое различение не сводится к принципам: оно призывает к образу жизни. Из текстов вытекают несколько конкретных ориентиров.
Сохранять власть над техникой, не передавать ей свою совесть
Использовать ИИ как инструмент — да; отдавать ему свои решения, суждение, мышление — нет. Христианин остаётся ответственным за то, что производит, распространяет и во что верит. Проверять источники, отказываться распространять сомнительный контент, сохранять критический ум: этого требует любовь к истине.
Ставить живых людей выше экранов
Там, где ИИ предлагает смоделированные отношения, христианин выбирает отношения настоящие: присутствие, лицо, подаренное время, терпение. Борьба с одиночеством и цифровыми зависимостями проходит через ежедневное решение предпочесть живого другого его алгоритмическому отражению.
Ставить ИИ на службу самым слабым
Евангельский критерий неизменен: благословенно то, что служит «малым сим». ИИ, который лечит, включает, облегчает тяготы бедных, исполняет своё призвание инструмента; ИИ, который следит, исключает или порабощает, предаёт его. Различение всегда совершается в свете общего блага.
Пребывать в поклонении, а не в очарованности
Наконец, глубочайшее лекарство от технического идолопоклонства — поклонение истинному Богу. Человек, знающий, Кому он принадлежит, не станет простираться перед собственными машинами. Молитва, таинственная жизнь, созерцание возвращают человеку верную меру его самого: любимое творение, а не творец собственного спасения.
«Мы обрекли бы человечество на будущее без надежды, если бы отняли у людей способность самим решать за себя и за свою жизнь, обрекши их на зависимость от решений машин.» — Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года[43]
Искусственный интеллект, принимаемый за то, чем он является, — за удивительный и грозный инструмент, — может безмерно послужить человеку. Принимаемый за то, чем он не является, — за личность, сознание, бога, — он ему угрожает. Между тем и другим проходит именно та граница, о которой Церковь, верная своей миссии, не перестаёт напоминать: неотъемлемое достоинство человеческой личности.
Для дальнейшего чтения
- Техника и человек — общий католический взгляд на отношение человека к его техническому могуществу, частным применением которого является ИИ.
- Трансгуманизм — претензия «пересоздать» или «улучшить» человека с помощью машины и католический ответ.
- Биоэтика — манипуляции с живым, генная инженерия и деторождение.
- Достоинство человеческой личности — антропологический фундамент всей этики ИИ.
- Истина в медиа — дезинформация, дипфейки и ответственность христианина.
- Современное одиночество и Зависимости — человек на связи и риск подмены отношений видимостью.
Источники основные: Дикастерия вероучения и Дикастерия культуры и образования, Antiqua et nova (28 января 2025 года); папа Франциск, Искусственный интеллект и мир, Послание на 57-й Всемирный день мира (1 января 2024 года), выступление на саммите Группы семи (14 июня 2024 года) и Послание на 58-й Всемирный день социальных коммуникаций (2024 год); Папская академия жизни, Римский призыв к этике ИИ (28 февраля 2020 года); Лев XIV, речь к Коллегии кардиналов (10 мая 2025 года). Официальные тексты на сайте vatican.va.
Примечания и источники
Лев XIV, Речь к Коллегии кардиналов, 10 мая 2025 года: «Папа Лев XIII исторической энцикликой Rerum novarum обратился к социальному вопросу в контексте первой великой промышленной революции; и сегодня Церковь предлагает всем своё наследие социального учения, чтобы ответить на новую промышленную революцию и на развитие искусственного интеллекта, ставящие новые вызовы для защиты человеческого достоинства, справедливости и труда.» Официальный текст на сайте vatican.va.
1 4Дикастерия вероучения и Дикастерия культуры и образования, Antiqua et nova. Заметка о соотношении искусственного интеллекта и человеческого разума, 28 января 2025 года, № 4: ИИ «знаменует новый важный этап в отношениях человечества с технологиями». Текст на сайте vatican.va.
2Лев XIII, Rerum novarum, 15 мая 1891 года: первая социальная энциклика о положении рабочих перед лицом промышленной революции. См. статью Rerum novarum.
3Папа Франциск, Искусственный интеллект и мир, Послание на 57-й Всемирный день мира, 1 января 2024 года (датировано 8 декабря 2023 года), № 2: «Итак, искусственный интеллект следует понимать как галактику различных реальностей, и мы не можем априори предполагать, что его развитие благотворно послужит будущему человечества и миру между народами.» Текст на сайте vatican.va.
5Antiqua et nova, № 12: «Его передовые характеристики наделяют ИИ изощрёнными способностями к выполнению задач, но не способностью мыслить.»
6Antiqua et nova, № 10: «В случае человека разум есть способность, относящаяся к личности в её целостности, тогда как в случае ИИ он понимается в функциональном смысле.»
7Antiqua et nova, № 26: «Подлинная вовлечённость требует принятия всей полноты бытия: духовного, познавательного, телесного и отношенческого.»
8Antiqua et nova, № 31: ИИ, «лишённый физического тела, опирается на вычислительное рассуждение и обучение».
9Antiqua et nova, № 31: «хотя ИИ обрабатывает и имитирует некоторые проявления разума, он остаётся по существу заключённым в логико-математические рамки».
10Папа Франциск, Выступление на сессии Группы семи по искусственному интеллекту, Борго-Эньяция (Апулия), 14 июня 2024 года: «Искусственный интеллект есть инструмент, созданный для решения задачи, и действует посредством логической последовательности алгебраических операций.» Первый папа, обратившийся к саммиту Группы семи. Текст на сайте vatican.va.
11Antiqua et nova, № 34: «ценность личности зависит не от обладания особыми способностями, познавательными и технологическими достижениями или личными успехами, а от её неотъемлемого достоинства, основанного на том, что она сотворена по образу Божию».
12Antiqua et nova, № 39: «только человек является подлинно моральным деятелем», то есть субъектом, несущим нравственную ответственность.
13Папская академия жизни / Фонд RenAIssance, Римский призыв к этике ИИ, Рим, 28 февраля 2020 года, принцип ответственности: «всегда должен быть кто-то, кто несёт ответственность за то, что делает машина» (фр. пер. англ. «there must always be someone who takes responsibility for what a machine does»).
14Римский призыв к этике ИИ, 28 февраля 2020 года: шесть принципов (transparency, inclusion, responsibility, impartiality, reliability, security and privacy), обобщённых неологизмом algorethics («алгор-этика»). Первые подписанты: Папская академия жизни, Microsoft, IBM, ФАО, министерство инноваций Италии. Текст на сайтах romecall.org и vatican.va.
15Antiqua et nova, № 37: научное исследование и развитие технических навыков суть часть «сотрудничества мужчины и женщины с Богом в доведении видимого творения до совершенства».
16Папа Франциск, Послание на Всемирный день мира 2024 года, № 2: «Неотъемлемое достоинство каждой личности и братство, связующее нас как членов единой человеческой семьи, должны оставаться основой развития новых технологий.»
17Катехизис Католической Церкви, § 2294: «Иллюзорно претендовать на нравственную нейтральность научного исследования и его применений.»
18Папа Франциск, Laudato Si, 24 мая 2015 года, № 106: описание «технократической парадигмы» как «однородной и одномерной парадигмы», прилагаемой ко всей реальности. См. Техника и человек.
19Antiqua et nova, № 68: предостережение против усиления технократической парадигмы в сфере экономики и труда — «мы не можем допустить, чтобы столь мощный и необходимый инструмент, как искусственный интеллект, усиливал такую парадигму; напротив, мы должны сделать искусственный интеллект оплотом именно против её расширения».
20Antiqua et nova, № 70: «мы не должны стремиться всё больше заменять человеческий труд техническим прогрессом».
21Папа Франциск, Послание к Дню мира 2024 года, № 4: при технократической парадигме «неравенство может расти несоразмерно, знание и богатство скапливаться в руках немногих, с серьёзными рисками для демократических обществ и мирного сосуществования».
22Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года: «Ни одна машина никогда не должна решать отнять жизнь у человеческого существа.» (Следует отличать от параллельной формулировки Antiqua et nova № 100, где сказано «лишить жизни».)
23Antiqua et nova, № 100: «Ни одна машина никогда не должна решать лишить жизни человеческое существо.» О летальных автономных системах вооружений, лишённых «исключительно человеческой способности нравственного суждения».
24Папа Франциск, Послание к Дню мира 2024 года, № 6: «Автономные системы вооружений никогда не смогут быть морально ответственными субъектами: исключительно человеческая способность нравственного суждения и этического решения есть нечто большее, чем сложный набор алгоритмов.»
25Папа Франциск, Послание к Дню мира 2024 года, № 8: призыв к «надлежащему, значимому и последовательному человеческому надзору за системами вооружений» и к принятию «обязательного международного договора» об ИИ.
26Antiqua et nova, № 86: ИИ «порождает манипулированный контент и ложную информацию, которые, будучи весьма трудноотличимыми от реальных данных, могут легко вводить в заблуждение».
27Папа Франциск, Искусственный интеллект и мудрость сердца: к полностью человеческой коммуникации, Послание на 58-й Всемирный день социальных коммуникаций 2024 года: «[Эти инструменты] могут быть также орудиями „когнитивного загрязнения“, искажения реальности посредством частично или полностью ложных рассказов, в которые верят — и которыми делятся — как если бы они были правдой.» Текст на сайте vatican.va.
28Antiqua et nova, № 59: «[ИИ] следует рассматривать как то, чем он является: инструмент, а не личность.»
29Antiqua et nova, № 61: «явно личностная и отношенческая природа подлинной эмпатии не может быть воспроизведена искусственными системами».
30Antiqua et nova, № 62-63: «если мы заменим эти отношения [и отношение с Богом] техническими средствами, мы рискуем заменить подлинное отношение видимостью».
31Antiqua et nova, № 90: данные «несут не только информацию, но и личное и отношенческое знание, которое в условиях всё большей цифровизации может стать властью над человеком».
32Папа Франциск, Послание к Дню мира 2024 года, № 5: «Фундаментальное уважение человеческого достоинства предполагает отказ сводить уникальность личности к набору данных.»
33Antiqua et nova, № 96: крупные модели ИИ «требуют больших количеств энергии и воды» для своего обучения и работы и вносят значительный вклад в выбросы CO2.
34Antiqua et nova, № 81: «важнейшая задача образования — формировать ум так, чтобы он здраво рассуждал обо всех предметах, стремился к истине и постигал её».
35Antiqua et nova, № 79: «Физическое присутствие учителя создаёт отношенческую динамику, которую ИИ воспроизвести не может.»
36Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года: «Мы должны гарантировать и защищать пространство значимого человеческого контроля над процессом выбора программ искусственного интеллекта: от этого зависит само человеческое достоинство.»
37Папа Франциск, Послание ко Дню социальных коммуникаций 2024 года: «Мудрость сердца есть, таким образом, та добродетель, которая позволяет нам связывать воедино целое и части, решения и их последствия, высоты и хрупкости, прошлое и будущее, я и мы.»
38Папа Франциск, Послание к Дню мира 2024 года, № 8: «Я призываю Сообщество наций трудиться сообща, чтобы принять обязательный международный договор, регулирующий разработку и использование искусственного интеллекта в его многообразных формах.»
39Antiqua et nova, № 105: «самонадеянная попытка заменить Бога делом собственных рук есть идолопоклонство».
40Папа Франциск, Послание ко Дню социальных коммуникаций 2024 года: речь о том, чтобы «пробудить человека от гипноза, в который он впадает вследствие своего бреда всемогущества, считая себя полностью автономным и самодостаточным субъектом, отделённым от всякой социальной связи и забывшим о своём статусе творения».
41Antiqua et nova, № 109, цит. Иоанн Павел II, Redemptor hominis (1979), № 15: главный вопрос прогресса — «становится ли человек [...] действительно лучше, то есть зрелее духовно».
42Папа Франциск, Выступление на саммите Группы семи, 14 июня 2024 года: «Мы обрекли бы человечество на будущее без надежды, если бы отняли у людей способность самим решать за себя и за свою жизнь, обрекши их на зависимость от решений машин.»
43