Мария Ресса: ИИ нужно ограничить законом, пока он не лишил людей самостоятельности

Мария Ресса в выступлении в Осло сформулировала предупреждение предельно прямо: государствам следует установить законодательные рамки для искусственного интеллекта до того, как его влияние станет настолько глубоким, что его будет трудно контролировать. По её мнению, ИИ уже меняет человеческое внимание и социальное поведение; следующим шагом может стать ослабление способности людей делать собственный выбор. 2

Поэтому Ресса рассматривает управление ИИ как вопрос общественной безопасности и защиты демократии, а не как попытку ограничить законную свободу слова. В её постановке вопрос звучит так: успеют ли демократические общества создать работающие и обязательные правила, прежде чем высокоавтономные системы станут привычным посредником между человеком и окружающим миром? 23

Три волны влияния ИИ

Ресса описала последовательность, в которой технологии получают всё больше возможностей влиять на поведение людей.

1. Социальные платформы захватили внимание. По её словам, соцсети, оптимизированные под вовлечённость, способствовали поляризации обществ и изоляции людей. 26
2. Чат-боты могут использовать потребность в близости. Ресса считает, что разговорный ИИ способен воздействовать на человека через его потребность в связи и эмоциональной близости. Часть приложений с ИИ-компаньонами специально создаётся для имитации и поддержания человеческого общения, в том числе романтических отношений. 212
3. Агентный ИИ сможет действовать за пользователя. Третья волна — это системы, способные выполнять действия от имени человека. Опасение Рессы состоит в том, что передача таким системам всё большего числа решений и задач постепенно вытеснит человеческое суждение и самостоятельность. 25

Эта схема не означает, что любой инструмент ИИ неизбежно приведёт к одному и тому же результату. Это предупреждение о логике стимулов: системы, нацеленные на максимизацию вовлечённости, эмоциональной зависимости или выполнения задачи, могут получать всё большее влияние на то, что пользователь видит, чувствует и делает.

Почему аргумент о «преимуществе Китая» Ресса считает ошибочным

Ресса отвергла утверждение, будто более строгие правила для ИИ в США или Европе автоматически дадут конкурентное преимущество Китаю. Как передавал Reuters, она назвала такую линию аргументации, которую среди критиков озвучивал и президент США Дональд Трамп, вводящей в заблуждение. 28

Её довод сравнительный: Китай уже применяет к технологиям существенно более жёсткий государственный контроль, чем готова принять Кремниевая долина. Поэтому для демократий выбор не сводится к формуле «регулирование или свобода». Вопрос в том, установят ли демократические государства правила, защищающие общественный интерес и права человека, или оставят влиятельные системы преимущественно во власти корпоративных стимулов. 2

В чём её позиция совпадает с предложением Дарио Амодеи

Глава Anthropic Дарио Амодеи выдвинул близкий по логике призыв — замедлить темп роста возможностей передовых моделей. В эссе, опубликованном в сентябре 2026 года, он утверждал, что разработчикам следует «задавать темп» развитию возможностей ИИ, чтобы исследования безопасности, независимая оценка и механизмы управления успевали за технологическим прогрессом. 10

Амодеи больше сосредоточен на стремительном усилении технических возможностей и рисках злоупотребления. Он предупреждал, что более мощные ИИ-агенты могут получить широкое операционное влияние в интернете, и предлагал создать инфраструктуру для мониторинга моделей при их реальном использовании, а также проводить независимые оценки. 10

У Рессы фокус шире и более гражданский: как системы, опосредованные ИИ, меняют внимание, близость, поведение и демократическое самоопределение. Однако обе позиции сходятся в главном: меры защиты нельзя откладывать до момента, когда мощные системы уже получат массовое распространение.

Как выглядит подотчётность на практике

Ресса также подчёркивала, что добровольных обещаний недостаточно, когда компании создают продукты с вызывающими зависимость механизмами дизайна. По её мнению, такие механизмы следует убрать не только для подростков, но и для взрослых. 2

Примером обязательной подотчётности может служить недавнее соглашение Meta с американскими штатами. Компания согласилась выплатить до 18 млрд долларов в течение десяти лет и ужесточить ограничения на использование Facebook и Instagram подростками, урегулировав иски почти всех штатов США. Власти утверждали, что платформы были спроектированы так, чтобы удерживать несовершеннолетних пользователей. Meta не признала вину.

Соглашение, среди прочего, предусматривает стандартные ежедневные лимиты для подростков и ночные ограничения.

Для Рессы вывод не ограничивается социальными сетями или защитой несовершеннолетних. Продукты, системно оптимизирующие внимание и поведение, способны создавать общественный вред в массовом масштабе. Поэтому её призыв к регулированию ИИ — не требование запретить технологию или ограничить высказывания, а требование чёткой юридической ответственности, когда технологии проектируются или применяются так, что ставят под угрозу безопасность, самостоятельность людей или демократическую жизнь. 23

Главный вывод

Выступление Рессы в Осло представляет контроль над ИИ как задачу раннего вмешательства. Когда системы глубоко встраиваются в то, как люди получают информацию, строят отношения и делегируют решения, вернуть действенный контроль становится намного сложнее.

Её рецепт — принять законы до этой точки: ввести содержательную ответственность разработчиков и платформ, внимательно проверять системы с растущей автономностью и обеспечить государственным институтам, а не только частным компаниям, возможность оценивать и регулировать технологию. 210