Папа Лев XIV и сооснователь Anthropic призвали «разоружить» ИИ на landmark-презентации в Ватикане

Что требует энциклика: «Разоружить» ИИ и отвергнуть «культуру силы»

Magnifica Humanitas — это не осторожное размышление о технологиях; это масштабный манифест с конкретными требованиями к управлению ИИ. Документ, подписанный 15 мая и представленный при личном участии Папы, завершавшего презентацию, рисует видение ИИ, которое откровенно противоречит текущей траектории индустрии .

1. Разоружение и «дружественный человеку» ИИ
Папа Лев XIV напрямую призвал «разоружить» искусственный интеллект и сделать его «дружественным человеку», предостерегая от «гонки за все более мощными алгоритмами и большими языковыми моделями», которая расчеловечивает людей . Эта риторика представляет безудержное развитие ИИ не как прогресс, а как гонку вооружений, угрожающую самому человеческому достоинству.

2. Жесткое регулирование ради общего блага
Папа настаивал, чтобы разработчики ИИ работали ради общего блага, а не только ради прибыли, потребовав создания сильных правовых и регуляторных рамок для технологии . Энциклика ясно дает понять: нельзя доверять одному лишь рынку направлять развитие ИИ в русло, служащее всему человечеству.

3. Запрет автономных вооружений
Одним из самых конкретных требований Magnifica Humanitas стало осуждение использования ИИ в войне и призыв к запрету летальных автономных систем вооружений. Папа заявил, что морально недопустимо доверять необратимые, смертоносные решения ИИ-системам .

4. Защита трудящихся
Перекликаясь с давней традицией социального учения Церкви о труде, документ предупредил, что ИИ нельзя использовать для эксплуатации работников или замещения человеческого труда без справедливых переходных мер и защиты, указывая на «новые формы рабства» за кулисами ИИ — от модераторов контента до шахтеров .

5. Отвергнуть «культуру силы»
Лев XIV осудил техно-решительный подход, который рассматривает ИИ как самоцель, сравнив попытку построить будущее на основе ИИ, исключающее Бога, с библейской Вавилонской башней . Этот богословский ракурс представляет бесконтрольную разработку ИИ как акт гордыни. Третья глава, озаглавленная «Технология и доминирование», развивает эту мысль и призывает к четкой подотчетности на всех этапах создания ИИ .

Ватикан еще более укрепил свои институциональные обязательства, учредив 16 мая новую комиссию по искусственному интеллекту, задача которой — координировать связанную с ИИ деятельность в учреждениях Ватикана и вырабатывать внутреннюю политику использования ИИ в Святом Престоле .

Выступление Кристофера Олаха: Безопасность, смирение и моральная вовлеченность

Полные дословные расшифровки панельного выступления Олаха пока не были широко опубликованы, но репортажи с места событий и анонсы обрисовывают основной посыл его сообщения . Выступая как светский спикер наряду с кардиналами высшего ранга и богословами, Олах использовал историческую трибуну, чтобы продвинуть видение ИИ, созвучное этосу Anthropic, где безопасность — на первом месте.

Согласно сообщениям, Олах представил ИИ как общую моральную проблему, утверждая, что разработка ИИ — это не просто технический вызов, а вопрос человеческого достоинства, который требует широкого общественного участия — в том числе, прямо сказал он, со стороны религиозных традиций . Он подчеркнул необходимость развития с приоритетом безопасности, выделив, что ИИ-системы должны создаваться с надежными защитными механизмами, а индустрия обязана ставить благополучие человека выше безудержной конкуренции . В заметном отходе от техно-утопической риторики Олах признал, что у исследователей ИИ нет всех ответов, и они должны серьезно взаимодействовать с этическими системами за пределами техсектора, указав на католическое социальное учение как на ценный источник .

Его присутствие было историческим: впервые топ-менеджер крупной ИИ-компании делил сцену с Папой на запуске папской энциклики. Символизм не ускользнул от наблюдателей, которые отметили, что это предполагает, что Anthropic видит в Церкви ценного институционального союзника в продвижении норм безопасности в управлении ИИ .

Стратегия за кулисами: Взаимодействие Anthropic с религиозными институтами

Событие 25 мая не было спонтанной фотосессией; оно стало публичной кульминацией продуманной и долгосрочной стратегии Anthropic по наведению мостов с религиозными и мудростными традициями.

В пресс-релизе от 19 мая Anthropic сообщила, что провела «последние несколько месяцев», организуя диалоги между своими исследователями и представителями Ватикана, включая богословов и специалистов по этике, чтобы выстроить общее понимание рисков и моральных аспектов ИИ . Компания заявила, что ее первый раунд обсуждений охватил «более 15 религиозных и кросс-культурных групп» в рамках более широких усилий по укоренению своей разработки ИИ в моральных традициях за пределами техсектора .

Более широкий вектор Anthropic еще более показателен. За несколько месяцев до ватиканского события компания работала с католическим священником и другими религиозными лидерами над непосредственным формированием «Конституции Claude» — набора руководящих принципов, регулирующих поведение ее ИИ . Именно Олах инициировал это обращение, ища помощи, чтобы закодировать этические ценности в системах компании. Это отражает миссию Anthropic при ее основании: строить ИИ, который был бы «полезным, честным и безвредным», и проводить исследования безопасности до развертывания — ценности, которые естественно резонируют с акцентом Ватикана на человеческом достоинстве и осторожности .

Приезд Олаха в Рим сигнализирует, что компания рассматривает Церковь как серьезного институционального партнера в глобальном разговоре о регулировании ИИ — такого, который обладает моральным авторитетом и глобальным охватом, с какими не может сравниться ни один технологический консорциум или национальный регулятор . Решение Ватикана пригласить Олаха для совместной презентации дало этой стратегии ее самую значительную поддержку на сегодняшний день.

В мире, где разработка ИИ ускоряется, Magnifica Humanitas и ее историческая презентация представляют собой ясное требование: технологии должны служить, а не доминировать. И для Anthropic выступление вместе с Папой — это четкий сигнал, на чьей стороне она хочет быть в этих дебатах.