«Это не фейковые новости»: папа Лев XIV — о рисках искусственного интеллекта

Папа Лев XIV призвал не отмахиваться от предупреждений о том, что искусственный интеллект может выйти из-под контроля. На борту самолета, возвращавшегося из Франции в Рим 28 сентября, он назвал такие опасения не «фейковыми новостями» и сказал, что к ним нужно отнестись серьезно. «Нельзя просто сидеть сложа руки и делать вид, будто ничего не случится», — заявил понтифик. 26

Не паниковать — но обсуждать риски

Отвечая на вопрос о потенциально катастрофических последствиях развития ИИ, Лев XIV не утверждал, что катастрофа неизбежна. Его посыл был другим: если специалисты предупреждают о серьезных рисках, их следует обсуждать и принимать меры, а не заранее списывать такие опасения со счетов. 26

По сообщению Reuters, слова папы прозвучали как упрек президенту США Дональду Трампу. Понтифик также раскритиковал руководителей технологических компаний, которые считают, что ИИ не нужно ограничивать. 7

В чем разошлись взгляды папы и Трампа

Трамп называл опасения по поводу выхода ИИ из-под контроля «обманом». 2 Лев XIV, напротив, подчеркнул, что вопросы безопасности, поднятые экспертами, заслуживают серьезного рассмотрения. 27

Так спор касается не только выбора между быстрым развитием технологий и осторожностью. В публикациях позиция Трампа связана с желанием США не уступить Китаю в гонке ИИ, тогда как папа настаивает: возможный вред нельзя просто игнорировать. 2

Что известно об Anthropic и Nvidia

В контексте дискуссии Reuters сообщал, что глава Anthropic Дарио Амодеи выступал за правила, требующие независимого аудита передовых моделей ИИ. 1 Это подтвержденная позиция руководителя компании, но она сама по себе не доказывает, что папа на борту самолета ссылался на конкретные предупреждения исследователей Anthropic.

Точная позиция главы Nvidia Дженсена Хуанга по регулированию ИИ в материалах, использованных для этой статьи, не подтверждена. Поэтому представлять слова Льва XIV как прямой ответ Хуангу было бы некорректно.

К чему папа призвал — и чего не предлагал

В ответе журналистам на обратном рейсе Лев XIV призвал серьезно относиться к экспертным опасениям, обсуждать проблему и не притворяться, будто ничего плохого произойти не может. 26 В приведенных сообщениях нет подробного плана действий, адресованного отдельно политикам, технологическим компаниям и гражданскому обществу.

Более широкий контекст его позиции прозвучал во время визита во Францию. В выступлении в Елисейском дворце папа предостерег от утраты человечности в «раю машин» и призвал развивать способность отличать нравственное и правильное, пока технологии все сильнее влияют на повседневную жизнь. 8 Это согласуется с его общей тревогой о роли человека в технологическом мире, но отличается от того, что он конкретно сказал журналистам в самолете.