Папа, Питер Тиль и Китай: кто должен устанавливать правила для ИИ

Питер Тиль и папа Лев XIV спорят не о том, нужен ли искусственный интеллект как таковой. Их разногласие — о цене ограничений и о том, могут ли они работать в условиях технологического соперничества. Тиль считает, что призывы к регулированию способны сдержать США и их союзников, тогда как Китай продолжит развивать ИИ. Папа настаивает на международных правилах для снижения рисков, которые не останавливаются на границах государств. Ни одна из этих позиций сама по себе не даёт готовой схемы такого соглашения. 11720

Почему Тиль выступил против папы

24 сентября в Берлине, беседуя с генеральным директором медиакомпании Axel Springer Матиасом Дёпфнером, Тиль назвал Льва XIV «полезным идиотом для Коммунистической партии Китая». По его логике, китайские власти не станут прислушиваться к папе, а американцы могут — и тогда добровольное сдерживание на Западе сыграет на руку конкуренту. Это утверждение о предполагаемом эффекте регулирования, а не свидетельство того, что папа действует в интересах Китая. 13

Тиль критиковал майскую энциклику Льва XIV Magnifica Humanitas и его более широкий призыв установить надзор над ИИ. Энциклика — программное послание папы по важному для Католической церкви вопросу. Нет оснований утверждать, что слова Тиля были ответом именно на выступление понтифика в Ватикане в тот же четверг. Он критиковал подход Льва XIV и ранее летом. 17

Чего добивается Лев XIV

Позиция папы не сводится к отказу от ИИ. 21 сентября он призвал создавать системы, которые укрепляют мир, а не усиливают раскол в обществе, и служат человеческому достоинству. В мае Лев XIV предложил мировым лидерам выработать общие правила надзора за отраслью. По сообщению Reuters, 24 сентября на встрече в Ватикане он вновь предупредил о рисках ИИ; доступные сообщения не позволяют установить точную формулировку того выступления. 1720

Для Ватикана эта тема не нова. Как сообщало Reuters, он предупреждал о серьёзных рисках ИИ за несколько лет до того, как крупные американские технологические компании заговорили о них на заседании Совета Безопасности ООН. Советник Ватикана по ИИ священник Паоло Бенанти также отметил, что Святой престол занимается этим вопросом не впервые. При представлении майской энциклики рядом с папой выступил сооснователь компании — разработчика ИИ Anthropic Кристофер Ола: это пример диалога с отраслью, а не простого неприятия технологии. 204518

В чём главный вопрос

Довод Тиля указывает на проблему национальных ограничений: правила, принятые одними странами, не обязательно будут соблюдать их конкуренты. Аргумент Льва XIV исходит из другой проблемы: угрозы человеческому достоинству и миру могут затронуть сразу многие страны. Пока неясно, смогут ли правительства согласовать меры, которые уменьшат эти риски, не возложив основную конкурентную нагрузку лишь на часть участников. 11720

На 25 сентября у папы запланировано выступление в штаб-квартире ЮНЕСКО в Париже. В программе организации — обсуждение ИИ, образования, достоверности информации и мира. ЮНЕСКО называет предстоящий визит первым визитом папы в организацию за более чем 40 лет; из этого не следует, что Лев XIV прежде не бывал во Франции. Парижская площадка даст ему возможность вновь изложить свою позицию, но само выступление ещё не означает, что страны договорились об общих правилах. 2628