Римско-католическая архиепархия Божией Матери в Москве на этой неделе представила официальный перевод первой энциклики папы римского Льва XIV — папского послания, программного документа, который определяет политику церкви.
Свою религиозно-политическую программу в энциклике Лев XIV сформулировал еще в мае. Энциклика получила название Magnifica Humanitas, что в переводе с латинского — «Великолепное человечество».
Центральная тема документа при этом оказалась непривычна для церковной риторики: глава Католической церкви высказался об искусственном интеллекте. Признав полезность этого инструмента, понтифик предложил обезоружить ИИ: прекратить гонку за всё более мощными алгоритмами ради самой гонки и обратиться к этическому регулированию нейросетей. В пятницу, 25 июня, в Ватикане открылось официальное собрание Коллегии кардиналов, на котором папа также пообещал поговорить об энциклике и роли церкви в эпоху «частных интересов».
The Insider рассказывает подробнее о программном документе папы и реакции на него.
Что вообще такое энциклика и почему она важна?
Энциклика — это папское послание, посвященное ключевым социальным, философским и богословским вопросам, стоящим перед Церковью. Любая энциклика влияет на политику церкви и жизнь ее без малого полутора миллиардов верующих по всему миру. Это не приказ, обязательный для исполнения, а наставление. Однако авторитет понтифика делает его размышления если и не обязательными для верующих, то как минимум чрезвычайно важными.
Энциклики определяют эволюцию взглядов Церкви и фактически представляют собой наиболее прямое и сильное высказывание папы. Выпускаются они нечасто — в последние полвека раз в два-три года.
Каждая из энциклик — пространный текст. Она готовится, конечно же, не только понтификом, но целой командой богословов. Документ, впрочем, считается именно текстом папы, хотя он сам признавал, что перед написанием прислушивался к самым разным голосам, в том числе представителей технологической отрасли. Поэтому можно предположить, что их опыт нашел отражение в тексте, говорит в интервью The Insider богослов Анна Роуландс.
Первая энциклика, выпущенная папой, обычно привлекает больше всего внимания, потому что показывает, какая тема волнует его сильнее всего. У Бенедикта XVI (2005–2013 годы) это была социальная справедливость и философия любви, у Франциска (2013–2025) — экология. Впрочем, в своей первой энциклике Лев XIV рассуждает отнюдь не только об искусственном интеллекте.
От Вавилона до Иерусалима
Главная метафора, вокруг которой строится весь текст, — строительство. Оно может быть разным, пишет папа и приводит два эпизода из Ветхого завета. Первый — Вавилонская башня, которую он называет «впечатляющим свершением» с «единым языком» в начале и общеизвестным концом.
Башня становится образом проекта, в котором максимизация прибыли и культ результативности ставятся выше, чем уважение к человеческой личности. Противоположный пример — менее известный, но важный библейский сюжет о восстановлении разоренного вавилонянами Иерусалима. Это строительство, вдохновленное Богом ради общей пользы.
Текст энциклики не раз возвращается к вопросу: должны ли мы «по-вавилонски» рассматривать человека как средство, используемое ради высших целей, или «по-иерусалимски» считать человека «целью»? По мнению папы, верен может быть только второй подход: никакая выгода или технологический прорыв не могут служить оправданием для эксплуатации и унижения.
«Энциклика пытается сделать то, что мало кому удается в наше время: вернуть уникальную, неповторимую, обладающую неотъемлемым достоинством человеческую личность в центр нашего этического мышления. Мы вступили в эпоху, когда нас, похоже, больше увлекают идеи преодоления человека, нарративы власти как господства и эффективности, — говорит Роуландс. — Документ способен показать взаимосвязь между различными человеческими кризисами, с которыми мы сталкиваемся сегодня, и предложить альтернативное видение: достоинство, общее благо, разделенная и рассредоточенная власть, а также формы справедливости, ставящие жертв истории в центр разговора».
Первые две из пяти глав, впрочем, заинтересуют скорее только духовенство и специалистов: в них папа рассуждает об истории социальной политики церкви в последние полтора века.
«Отлучение» ИИ от Церкви
Католический — и антикатолический — Instagram уже заполонили шутки о том, что папа римский отлучил ИИ от Церкви. Нет, не отлучил, но, пожалуй, мало кто в последние годы так последовательно сформулировал опасения, связанные с распространением нейросетей. Если сформулировать проблему в католическом прочтении, то, по сути, человек впервые пытается сделать то, что до сих пор делал только бог, — интеллект.
Современные IT-технологии и христианская проповедь могут показаться вещами очень далекими друг от друга. В действительности, эти сферы пересекаются куда сильнее, чем кажется. Еще папа Франциск учредил «Диалоги Минервы» — конференции теологов, ученых и бизнесменов, на которых обсуждаются вопросы технологий и ИИ.
В среде техномагнатов также легко найти тех, кто увлечен религиозными вопросами. Например, бывший исполнительный директор PayPal Питер Тиль читает лекции об Антихристе с опорой на католических мыслителей.
Прежде всего понтифика беспокоит не искусственный интеллект как таковой: он не осуждает ни его использование, ни разработку. Папа, напротив, отмечает, что у ИИ нет злых намерений, он может быть полезен, но с него нет спроса:
«ИИ не переживает опыт, у него нет тела, чувств радости или боли, нет этапов взросления, он не знает, что означают любовь, труд, дружба или ответственность. Нет у него и совести — нейросети не различают добро и зло, не постигают глубинного смысла происходящего и не несут ответственности за последствия своих действий».
Проблема не в нейросетях, а в технократической парадигме, пишет папа. За технологиями стоят крупные корпорации и их владельцы: их влияние увеличивается, а это, в свою очередь, ведет к неравенству и непрозрачности. Например, те, кто контролирует ИИ, могут навязывать обществу собственное видение морали через чат-боты.
Общение с ИИ может быть полезным и даже утешительным, но в то же время порой способствует изоляции и замыканию людей. Кроме того, проблема и в том, что ИИ, который мы обычно видим как окошко на экране смартфона, в действительности представляет собой сложную систему, потребляющую бесчисленное множество ресурсов и человеческого труда, пишет глава Католической церкви.
Он задается вопросом, может ли быть справедливым общество, в котором деликатные вопросы (в том числе, например, процесс найма на работу) будут делегированы нейросетям. Есть риск, что «нейтральный и объективный» ИИ будет совершенно не таким и будет лишь отражать стереотипы или идеологические предубеждения своих разработчиков.
Папа предлагает «разоружить» ИИ: прекратить гонку за всё более мощными алгоритмами ради самой гонки. Он также советует пересмотреть представления о том, что развитие ИИ — самоценность, а эффективность — это главный результат, к которому мы должны стремиться.
Технологии при этом не стоит «демонизировать и идеализировать»: нужно обратиться к фундаментальному принципу, что истина — это «общественное благо, а не собственность тех, кто обладает властью или влиянием». Именно поэтому на этапе разработки нейросетей нужна максимальная прозрачность, а образование должно быть перестроено, чтобы дети со школы учились критически относиться к ответам чат-ботов.
Примечательна была не только главная тема этой энциклики, но и сама ее презентация — обычно ее не делают в принципе. В этот раз документ официально представили, а на мероприятие, помимо прочих, пригласили сооснователя компании Anthropic Криса Олаха. На встрече он заявил, что нейросети нуждаются в надзоре со стороны религиозных лидеров, правительств и гражданского общества.
По следам энциклики корпорация также выпустила статью «Когда ИИ создает сам себя» с призывом замедлить или приостановить развитие искусственного интеллекта.
«Цивилизация любви» против войны
Несмотря на то, что ИИ и защита человеческого достоинства в эпоху технологий становится главной темой энциклики, фокус документа всё равно шире. Папа рассуждает о том, как в принципе меняется мир и общество, о том, как ИИ используется человеком, насколько человек передает ИИ часть своей природной ответственности.
Отдельно в последней главе папа много рассуждает о войне и о нынешнем агрессивном обществе: о возникшем вновь желании одних государств порабощать и захватывать другие. Он также размышляет о том, какую опасную роль в этих воинственных тенденциях может играть искусственный интеллект.
Богослов Анна Роуландс называет документ скорее не новаторским, а «весомым»: он «представляет конструктивный способ сказать „нет“ всем формам сконцентрированной и господствующей власти».
Завершается текст призывом построить «цивилизацию любви». Вклад в это может сделать каждый, подчеркивает понтифик. Здесь он не избегает отсылок к массовой культуре и цитирует Гендальфа Белого из «Властелина колец»:
«Мы не призваны улучшать мир и в ответе лишь за то время, в которое нам довелось жить. Нам дóлжно выпалывать зловредные сорняки и оставить потомкам чистые пахотные поля».
Открыв текст романа, несложно убедиться: в той же сцене обсуждается палантир («Зрячий камень») — опасное орудие врага, которое Гендальф использует не ради слежки, а чтобы противостоять тирании Саурона.
Надежды крестового похода
Энциклика вышла недавно, но уже сейчас можно увидеть, насколько разнообразны реакции на нее. Неожиданным и необычным стал вал мемов и рилсов, обыгрывающих идею, что папа запретил ИИ. В ход идут отсылки к «батлерианскому джихаду» (конфликту с ИИ из «Дюны»), крестовым походам и тому подобному. Хотя ни о каком полном запрете ИИ в энциклике речи нет, даже умеренный призыв папы к осторожности был восторженно воспринят критиками нейросетей в соцсетях.
«Было забавно наблюдать в социальных сетях, как люди задавались вопросом: можно ли принести энциклику на работу, чтобы объяснить, почему они не хотят использовать ИИ», — говорит Роуландс.
При этом в церковном сообществе у энциклики уже появились и критики. Например, редактор католического журнала The Lamp Мэтью Уолтер в колонке для The New York Times назвал ее беззубым мягким текстом, недостаточно внятно призывающим к войне против ИИ.
Впрочем, поскольку формальной силы энциклика не имеет, она может остаться интересным размышлением на полях развивающегося технологического прогресса. При всей необычности и актуальности избранной темы, она всё же остается консервативным католическим документом.
И все-таки тексту повезло. Алгоритмы соцсетей сделали его неожиданно популярным, а призыв папы к замедлению и вдумчивому подходу к технологиям оказался созвучен страхам многих людей, даже не ассоциирующих себя с Церковью.
Константин Михайлов, Екатерина Рубина
