Anthropic и Ватикан заявляют в один голос: разработка передового ИИ вышла из-под контроля

Ведущие мировые компании в области ИИ соревнуются в создании всё более мощных систем, однако неожиданный альянс крупной лаборатории ИИ и Католической церкви призывает к осознанному замедлению. 4 июня 2026 года компания Anthropic, создатель ассистента Claude, опубликовала доклад под названием «Когда ИИ строит себя сам» ("When AI builds itself"), в котором предложила ввести глобальную скоординированную паузу или существенное замедление в разработке передового искусственного интеллекта . Центральная тема предупреждения — сценарий, названный рекурсивным самоулучшением: ситуация, когда система ИИ становится достаточно умной, чтобы автономно проектировать, создавать и обучать свои собственные версии-преемники, потенциально выходя из-под контроля человека .

Всего за десять дней до этого, 25 мая 2026 года, Папа Римский Лев XIV обнародовал свою первую энциклику Magnifica Humanitas («Величественное человечество») — первый в истории папский учительный документ, целиком посвященный искусственному интеллекту . Хотя эти два института происходят из совершенно разных миров — один из сферы технологий и безопасности, другой — из теологии и моральной философии — их ключевое послание поразительно схоже: передовой ИИ развивается быстрее, чем системы управления и этика могут адаптироваться, и для защиты человечества необходима пауза .

Предупреждение Anthropic: Риск рекурсивного самоулучшения

Доклад Anthropic, авторами которого выступили исследователи Марина Фаваро и Джек Кларк, рисует яркую картину того, как быстро ускоряются возможности ИИ. Компания сообщила, что по состоянию на май 2026 года Claude написал более 80% кода, объединенного в кодовую базу Anthropic, а типичный инженер теперь объединяет примерно в восемь раз больше кода в день, чем в 2024 году . Авторы предупреждают, что эта траектория ведет к рекурсивному самоулучшению — процессу, при котором системы ИИ автономно проектируют, создают и обучают свои собственные версии-преемники, без того, чтобы человек управлял каждым шагом .

Компания заявила, что этот порог еще не достигнут и исход не является неизбежным. Однако затем добавила отрезвляющее замечание: «Это может произойти раньше, чем большинство институтов будет к этому готово» .

Ключевые опасения Anthropic

• Потеря человеческого контроля. Главное опасение Anthropic заключается в том, что прогресс ИИ может опередить существующие системы безопасности и управления, сделав человеческий контроль основным ограничением технологического прогресса . Компания предупредила, что если развитие продолжится без ограничений, люди рискуют полностью потерять контроль .
• «Педаль тормоза» для индустрии. Anthropic представила свой призыв к паузе как создание «педали тормоза» для индустрии — возможность замедлить или временно остановить разработку передового ИИ, чтобы дать общественным структурам и исследованиям в области согласования (alignment research) время догнать прогресс . В интервью BBC Newsnight Кларк сказал: «Вам нужна возможность убрать ногу с педали газа и нажать на тормоз» .
• Условная, а не односторонняя пауза. Anthropic заявила, что поддержит паузу только в том случае, если к ней присоединятся другие ведущие разработчики и ее соблюдение можно будет независимо проверить . Компания отметила, что если замедление лишь позволит менее осторожным игрокам догнать, это в конечном итоге может поставить под угрозу безопасность для всех .
• Взаимодействие с политиками. Компания также объявила о планах собрать политиков для обсуждения опасностей, связанных с передовым ИИ .

Энциклика Ватикана Magnifica Humanitas: Моральные рамки для ИИ

Опубликованная 25 мая 2026 года, Magnifica Humanitas насчитывает примерно 43 000 слов и посвящена «защите человеческой личности в эпоху искусственного интеллекта» . Документ явным образом обновляет энциклику Льва XIII Rerum Novarum 1891 года, посвященную труду в индустриальную эпоху, и применяет ее логику к цифровым платформам, алгоритмам, автоматизации и концентрации данных .

Ключевые точки соприкосновения с предупреждением Anthropic

• Призыв к жесткому регулированию. Папа Римский призвал к строгому контролю над ИИ и предупредил, что Big Tech и их лидеры могут накопить власть, которую будут использовать в корыстных целях . Папа Лев настаивает на том, что поставщики ИИ должны учитывать этику своих действий, заявляя: «Чтобы ИИ уважал человеческое достоинство и действительно служил общему благу, ему необходимо сильное регулирование» .
• Предупреждение против бесконтрольной автономии. Энциклика предостерегает компании, разрабатывающие ИИ, от создания «новой Вавилонской башни» — моральная параллель с опасениями Anthropic о выходе систем из-под контроля человека . Документ сравнивает будущее ИИ, исключающее Бога, с библейской историей, предупреждая о человеческой гордыне .
• Человеческое достоинство как стандарт. Magnifica Humanitas утверждает, что ИИ должен служить общему благу и процветанию человека, а не управляться одной лишь конкурентной гонкой . Ключевая фраза энциклики гласит: «Искусственный интеллект теперь должен быть разоружен, освобожден от рамок, которые превращают его в инструмент контроля, исключения и разрушения» .
• Призыв к более медленному темпу. Папа Лев написал, что призыв к благоразумию, тщательной оценке и даже, временами, к более медленному темпу внедрения ИИ не означает противодействия прогрессу; напротив, это «проявление ответственной заботы о человеческой семье» .

Прямое сотрудничество между Anthropic и Ватиканом

Совпадение позиций двух институтов выходит за рамки параллельных предупреждений. В редком проявлении институционального сотрудничества сооснователь Anthropic Крис Ола выступил на презентации Magnifica Humanitas в Ватикане 25 мая 2026 года, что высветило уникальные отношения между лабораторией ИИ и Святым Престолом . Это появление стало знаком редкого союза, поскольку обе стороны призвали к более строгому моральному контролю за искусственным интеллектом .

Связи между двумя сторонами существовали и ранее. Anthropic ранее консультировалась с католическими мыслителями при разработке «Конституции Claude» — этического руководства из 23 000 слов, которым руководствуются модели ИИ компании . Священник и бывший исполнительный директор Кремниевой долины отец Брендан МакГуайр помогал формировать эту конституцию и отметил, что Magnifica Humanitas открыла двери для более глубокого диалога между Церковью и технологической индустрией .

Менее чем через две недели после публикации энциклики католические эксперты по ИИ публично одобрили призыв Anthropic к паузе, отметив, что он «вторит недавним опасениям Папы Льва XIV», и похвалив компанию за сверку ценностей с быстрым развитием . Католические моральные теологи ранее также подавали в суд amicus brief (заключение «друга суда») в поддержку Anthropic в споре с Пентагоном, когда компания отказалась разрешить использование своих систем ИИ для массовой слежки или создания автономного оружия .

Общая позиция и взаимодополняющие аргументы

И Anthropic, и Ватикан сходятся в центральном тезисе: разработка передового ИИ ускоряется быстрее, чем системы управления и этика могут адаптироваться, и для сохранения человеческого контроля, достоинства и общего блага необходима преднамеренная пауза или замедление. Вклад Церкви добавляет мощное моральное и теологическое обоснование — укорененное в человеческом достоинстве, общем благе и защите уязвимых — которое дополняет техническую аргументацию Anthropic, ориентированную на безопасность .

Как выразился один из наблюдателей, оба института утверждают, что «общество может испытывать трудности с тем, чтобы угнаться за быстрыми технологическими изменениями», и что замедление, вероятно, является «благом» — при условии, что оно скоординировано, проверяемо и не служит просто инструментом для менее осторожных конкурентов, чтобы набрать обороты .