Почему Британия отказалась от «кнопки отключения» для опасного ИИ

Правительство Великобритании, отвергнувшее идею экстренной «кнопки отключения» ИИ, не утверждает, что опасные модели безвредны. Его главный довод в другом: полномочие, действующее только в пределах страны, неизбежно ограничено. Отключение доступа, модели или дата-центра в Великобритании не помешает разрабатывать, размещать или применять сопоставимые системы в других государствах. 1

Именно поэтому спор стал жёстче. Министры говорят, что уже располагают средствами вмешательства при серьёзных киберинцидентах и готовы перейти к более строгим правилам, если добровольные меры перестанут работать. Сторонники новых полномочий отвечают: к рискам катастрофического масштаба нужно готовиться заранее — через ясные и обязательные нормы, а не в разгар кризиса. 1617

Что предлагала «кнопка отключения»

Лорд Тим Клемент-Джонс предложил поправку к законопроекту о кибербезопасности и устойчивости (Cyber Security and Resilience Bill). Она должна была создать правовой механизм для экстренного вмешательства государства в случае опасного ИИ. Речь шла о крайней мере: возможности деактивировать ИИ-модель либо остановить работу британских дата-центров, если система создаёт серьёзную угрозу безопасности или устойчивости инфраструктуры. 26

Важный нюанс: действующие правила кибербезопасности прежде всего относятся к защите сетей и информационных систем. Критики считают, что они не создают отдельного и однозначного режима надзора за разработчиками передовых моделей — и не дают специально прописанного ответа на риск, исходящий от автономной модели как таковой. 15

Позиция властей: ИИ нельзя «выключить» в одной стране

Возражение Кабинета министров Великобритании сводится к вопросу юрисдикции. Как заявили власти, страна «не может просто выключить ИИ»: ограничение доступа к моделям внутри Великобритании не остановит их разработку или злоупотребление ими за границей. 1

В этом и практическое ограничение национальной меры. Она способна затронуть инфраструктуру, находящуюся под британской юрисдикцией, но сама по себе не удалит веса модели, не остановит зарубежные сервисы и не помешает другим игрокам разрабатывать аналогичные системы. При локальном инциденте такая мера всё же могла бы помочь со сдерживанием ущерба, однако глобальную проблему она не решает.

Бывший исследователь OpenAI Дэниел Кокотайло в публикациях о предложении высказывал сходную мысль: одностороннее отключение не будет достаточным без международного соглашения. По его мнению, такие инструменты лучше, чем отсутствие каких-либо инструментов, но ключевую роль должны играть дипломатические усилия — прежде всего взаимодействие с США — для замедления или регулирования разработки передового ИИ. 14

Почему министры ссылаются на действующие киберполномочия

Подход правительства не означает, что оно предлагает просто ждать действий компаний. Министры утверждают, что законопроект о кибербезопасности и устойчивости уже позволяет вмешиваться, когда скомпрометированные сети или информационные системы создают риск для национальной безопасности. Это может включать требование к организации прекратить использовать и изолировать ИИ-модель. 16

Министр по делам ИИ Канишка Нараян также заявлял, что правительство рассмотрит обязательные правила для передовых моделей, если добровольные меры безопасности перед развёртыванием перестанут защищать общество. Британский Институт безопасности ИИ получает доступ к моделям до их выпуска в рамках добровольных соглашений с OpenAI, Anthropic, Google и другими компаниями. 17

Отсюда и принципиальное расхождение:

• Позиция правительства: более реалистичны точечные киберполномочия, ответственность разработчиков, добровольный доступ к моделям и международное сотрудничество, а не «рубильник», работающий лишь в Великобритании.
• Позиция критиков: добровольный доступ и общие киберполномочия не заменяют законного права потребовать тестирования, ввести ограничения или остановить развёртывание, когда риск становится неприемлемым.

Что предлагает законопроект Алекса Собела

Отдельная инициатива депутата-лейбориста Алекса Собела идёт дальше экстренного отключения. Согласно сообщениям о его законопроекте о безопасности ИИ, документ должен запретить разработку, развёртывание и эксплуатацию искусственного сверхинтеллекта — особенно систем, которые невозможно контролировать человеку. 23

Это превентивный, а не реактивный подход. Вместо того чтобы рассчитывать исключительно на отключение уже работающей опасной системы, законопроект предполагает участие государства в мониторинге и контроле процесса разработки по всей цепочке создания ИИ, в том числе на уровне чипов. 7

Проект также предусматривает, что правительство должно добиваться международного соглашения о предотвращении неконтролируемого сверхинтеллекта. Это признание того, что вычислительные мощности, разработка моделей и их развёртывание распределены между разными странами. 3

Почему шансы законопроекта невелики

Инициатива Собела — законопроект частного члена парламента. Такие проекты, как правило, нуждаются в поддержке правительства, чтобы пройти дальше. Неприятие властями связанной с ним идеи «кнопки отключения» указывает на то, что в ближайшей перспективе у правительства мало желания поддерживать столь жёсткое вмешательство. 21

В целом Великобритания по-прежнему делает ставку на существующее законодательство, отраслевых регуляторов и добровольные договорённости с разработчиками передовых моделей, а не на единый всеобъемлющий закон об ИИ с широкими полномочиями до выпуска модели. Нараян не исключает усиления регулирования, но лишь в случае, если нынешняя добровольная система окажется недостаточной. 17

Главный политический вопрос поэтому звучит так: сколько признаков провала нужно увидеть, прежде чем появятся обязательные меры? Сторонники законодательных гарантий считают, что ждать очевидной неудачи опасно, если речь идёт о быстро развивающемся событии с потенциально тяжёлыми последствиями.

Почему спор о рисках ИИ обострился

Идея «кнопки отключения» появилась на фоне сообщений об инцидентах в сфере безопасности ИИ, а также опасений, что модели могут обходить защитные ограничения или использоваться для киберактивности. Для части парламентариев и сторонников безопасного ИИ это сделало сценарий потери контроля менее абстрактным. 12

На дискуссию влияет и различие подходов к регулированию. Европейский союз принял AI Act, тогда как Великобритания выбрала более мягкую, отраслевую модель, дополненную добровольным тестированием передовых систем до развёртывания. 17

Ни один из подходов сам по себе не устраняет проблему международной координации. Высокопроизводительную систему можно обучить, разместить, скопировать или запустить через границы. Но спор о «кнопке отключения» выявляет более срочный вопрос: должна ли Британия заранее закрепить в законе чёткие полномочия для вмешательства, прежде чем добровольное сотрудничество и нынешние кибермеры будут проверены реальным кризисом.

Реальный выбор — не между кнопкой и бездействием

Суть дискуссии не в том, существует ли одна кнопка, которую можно нажать. Она в последовательности и масштабе контроля:

1. Предотвращение: надзор за вычислительными ресурсами, чипами, обучением, тестированием и развёртыванием до выпуска системы.
2. Вмешательство: ясные полномочия изолировать или останавливать системы, создающие острую угрозу безопасности.
3. Международная координация: соглашения, которые уменьшают возможность обходить правила через другие юрисдикции и делают национальные меры эффективнее.

Правительство отвергло отдельную национальную «кнопку отключения», поскольку считает её недостаточной против глобальной угрозы. Критики принимают это ограничение, но делают противоположный вывод: внутренние обязательные полномочия следует сочетать с международным сотрудничеством, а не выдавать одно за замену другого. 1316