Папа Лев XIV предупредил об ИИ: машины должны оставаться под контролем человека

Позиция папы Льва XIV — это не отказ от технологий, а предупреждение о том, кто ими управляет и что произойдёт, если человеческую ответственность начнут передавать машинам. В обращениях к Международной сети католических законодателей 21 августа и к Международному институту административных наук 28 августа понтифик призвал сохранить искусственный интеллект инструментом общего блага — под руководством человеческого разума, совести и закона, а не скорости, прибыли или непрозрачных систем.

Оба выступления развивают главный принцип его энциклики Magnifica Humanitas: технологический прогресс следует оценивать по тому, защищает ли он человеческое достоинство, справедливость, мир и реальную способность людей самостоятельно принимать решения. 16

Человек не должен стать жертвой собственных изобретений

Выступая перед специалистами по государственному управлению, Лев XIV предупредил: стремительное развитие ИИ создаёт риск, что человечество «станет жертвой» собственных изобретений. Особую тревогу он выразил в связи с передачей машинам решений, затрагивающих человеческую жизнь.

При этом папа не призывал отказаться от цифровых технологий. Напротив, он предложил «очеловечить» их и призвал исследователей искать способы, благодаря которым цифровые системы будут служить жизни и миру. В центре государственного управления, по его словам, должны оставаться люди, а не автоматизированные процессы.

Это устанавливает важную границу для автоматизации: ИИ может помогать чиновникам и администраторам, но не должен устранять человеческое суждение, ответственность и моральную подотчётность там, где решения влияют на права, благополучие или достоинство людей.

Власть над ИИ сосредотачивается у немногих

В обращении 21 августа к участникам Международной сети католических законодателей Лев XIV сосредоточился на политической ответственности. Тема встречи — «Человеческое достоинство и искусственный интеллект: вызовы, возможности и контроль» — была представлена как один из ключевых вопросов современности.

Речь идёт не только о том, что отдельные системы ИИ могут ошибаться. Опасность также заключается в концентрации передовых технологий и влияния на их применение у небольшого числа крупных экономических и технологических игроков. По словам понтифика, это способно сделать более бедные страны зависимыми от более богатых и усилить уже существующее неравенство.

Папа также предостерёг, что инновации могут превратиться в инструмент «идеологического или экономического колониализма». Поэтому регулирование ИИ — не исключительно внутренний законодательный вопрос отдельных государств, а международная проблема.

Алгоритмы могут незаметно управлять обществом

Лев XIV описал ещё один риск: алгоритмы и цифровые платформы способны влиять на общество, не обладая формальными признаками власти. Они могут определять, кто будет виден, а кто останется незамеченным, тогда как платформы формируют общественную дискуссию без достаточной подотчётности. Автоматизированные системы, кроме того, могут подчинять достоинство работников логике оптимизации.

Это более широкая проблема, чем обычная техническая предвзятость алгоритмов. Вопрос в том, кто устанавливает правила видимости, участия и доступа к возможностям — и могут ли люди содержательно оспаривать решения, которые их затрагивают. Если частные системы непрозрачно влияют на общественную дискуссию или доступ к работе, власть над социальной жизнью может уходить от демократических институтов и общественного контроля.

Почему папа говорит о семье

Лев XIV назвал семью «первой школой человечности» и призвал законодателей не позволить искусственному интеллекту ослабить её роль.

В семье человек учится доверию, ответственности, щедрости, диалогу и вниманию к другим. Эти качества нельзя свести к скорости вычислений или производительности цифровой системы. В Magnifica Humanitas папа также предостерегает от отождествления машинной производительности с человеческим интеллектом: ИИ способен имитировать отдельные функции разума и превосходить людей в скорости и вычислительных возможностях, но не обладает человеческим опытом и телесностью. 16

Поэтому защита семейной жизни для Льва XIV — часть политики в сфере ИИ. Важно спрашивать не только, эффективна ли конкретная система, но и поддерживает ли её применение отношения и институты, через которые люди учатся свободе, ответственности и солидарности.

Какие правила он предлагает создать

Из выступлений папы складывается ориентированная на человека модель регулирования ИИ:

• Защищать основные права и свободы. Технологический прогресс не должен достигаться за счёт человеческого достоинства.
• Сохранять приватность. Пользователи должны быть защищены от эксплуатации и неправомерного использования персональных данных.
• Требовать прозрачности. Люди и организации должны понимать, как применяются новые технологии и каким образом принимаются решения с серьёзными последствиями.
• Укреплять демократические институты. Цифровые системы должны поддерживать подотчётное государственное управление, а не обходить его.
• Сохранять человеческую ответственность. Решения, затрагивающие жизнь и достоинство людей, нельзя без полноценного человеческого контроля передавать машинам.
• Не допускать господства и чрезмерной концентрации власти. Регулирование должно учитывать риски, возникающие, когда передовые системы ИИ контролирует небольшая группа влиятельных игроков.

Эти меры отражают более широкий тезис энциклики: технологии не являются социально нейтральными. Они могут расширять участие и содействовать справедливости, но также способны усиливать неравенство, контроль и исключение.

Как выступления развивают Magnifica Humanitas

Энциклика Magnifica Humanitas, опубликованная в мае 2026 года, посвящена защите человека в эпоху искусственного интеллекта. Её главный критерий таков: технологии должны оставаться ориентированными на человека, а не превращаться в инструмент господства, исключения или войны. Папа призвал «разоружить» ИИ, освободив его от этих разрушительных логик. 51016

Августовские выступления переводят этот принцип в обязанности двух групп. Специалисты по государственному управлению должны добиваться того, чтобы цифровые системы служили гражданам и сохраняли человеческое суждение. Законодатели — создавать нормы, защищающие права, приватность, прозрачность и демократическую жизнь. Исследователи, в свою очередь, должны находить практические способы сделать цифровые технологии инструментом жизни и мира.

В итоге предупреждение Льва XIV носит превентивный характер. Он призывает установить ориентированные на человека правила ещё на этапе разработки и внедрения ИИ — до того, как непрозрачные платформы, концентрация власти и автоматизированные решения станут настолько укоренившимися, что оспаривать их будет почти невозможно. Предлагаемый им критерий прост: искусственный интеллект должен расширять общее благо, но не вытеснять людей, которые отвечают за его определение и защиту.