Доступ ЕС к тестам ИИ выявил слабое место Британии в контроле передовых моделей

Сообщения о том, что британский AI Security Institute не получил Claude Mythos 5.1 для тестирования до релиза, говорят не столько о качестве британской экспертизы, сколько о проблеме доступа. Государственный оценщик не может своевременно и независимо проверить передовую модель, если участие в итоге зависит от согласия самой компании-разработчика.

Доступ Агентства ЕС по кибербезопасности ENISA к Anthropic Mythos 5 и OpenAI GPT-6 Astra важен, но он не даёт Евросоюзу постоянного права проверять каждую следующую версию модели — и не означает, что агентство получило доступ к Mythos 5.1. 920

Главное различие: доступ предоставляется к конкретной модели

По словам представителя Европейской комиссии, ENISA получила доступ к Mythos 5 и GPT-6 Astra и уже тестирует их. 9 Отдельно сообщалось, что Anthropic не предоставила британскому AI Security Institute модель Mythos 5.1 до её выпуска. Это, как сообщалось, первый случай, когда Anthropic не дала этому британскому органу доступ к крупной модели в рамках предрелизной проверки. 2023

Сводить это к простой схеме «победа ЕС — поражение Великобритании» было бы неверно. Доступ ENISA касается двух конкретно названных моделей и особых договорённостей. Mythos 5.1 — другой релиз, доступ к которому ограничен сильнее. Практический вывод состоит в том, что оценка безопасности всё чаще делится по версиям модели, её возможностям, предполагаемому применению, юрисдикции и критериям отбора партнёров, которые устанавливает разработчик.

Почему Mythos 5.1 — более сложный случай для регулирования

Anthropic заявляет, что Claude Fable 5.1 и Claude Mythos 5.1 построены на одной базовой модели, но отличаются уровнем защитных ограничений. Fable 5.1 доступна широко, а Mythos 5.1 предоставляется только через программы доверенного доступа для задач в кибербезопасности и науках о жизни. 12

Поэтому вопрос выходит за рамки обычного тестирования продукта. Система, рассчитанная на чувствительные задачи в кибербезопасности или научной сфере, требует контролируемой среды, мониторинга возможного злоупотребления, проверки пользователей и процедур, учитывающих интересы национальной безопасности. По данным сообщений, первоначально Mythos 5.1 была доступна лишь проверенным организациям США. 1824

Имеющиеся данные не доказывают, что Anthropic исключила Великобританию из-за недоверия к стране или её институту. Возможными объяснениями остаются сама конструкция ограниченной программы, требования операционной безопасности и коммерческий контроль разработчика над доступом. Но результат всё равно показателен: налаженное сотрудничество и репутация оценщика не гарантируют своевременного доступа к модели с потенциально серьёзными последствиями.

Что доступ ENISA говорит о рычагах ЕС

У Евросоюза более сильная правовая основа, чем у полностью добровольной системы. Согласно статье 55 EU AI Act, поставщики моделей ИИ общего назначения с системным риском обязаны проводить оценку по стандартизированным протоколам и инструментам, оценивать и снижать системные риски, отслеживать и сообщать о серьёзных инцидентах, а также обеспечивать надлежащий уровень киберзащиты. 4337

Акт также предусматривает оценку до первого вывода модели на рынок, включая документированное состязательное тестирование — внутреннее или независимое внешнее, когда это уместно. 3534

Однако обязанности поставщиков — не то же самое, что безусловное право ENISA получить веса модели, неограниченный доступ к системе или возможность проверять до релиза любую передовую разработку. Нынешняя договорённость о тестировании важна именно потому, что, судя по всему, была достигнута благодаря взаимодействию с компаниями наряду с более сильной регуляторной позицией ЕС. 49

Иными словами, регулирование может усилить способность ЕС требовать доказательства безопасности, управления рисками и соблюдения правил. Но оно не отменяет необходимости защищённого практического сотрудничества, когда речь идёт о моделях с чувствительными кибернетическими, биологическими или агентными возможностями.

Почему Великобритания уязвимее

Случай с Mythos 5.1 наглядно показывает пределы добровольного доступа в британской системе. После сообщений о том, что Anthropic не предоставила институту доступ к новой модели, прозвучали призывы дать AI Security Institute более прочную законодательную основу и расширить его полномочия. 23

Добровольный подход может быть эффективен, когда лаборатории сами видят ценность в сотрудничестве. Он нередко быстрее и гибче жёстких правил. Его слабое место — предсказуемость: разработчик может ограничить доступ, изменить круг допустимых партнёров или отнести модель к более закрытому каналу, связанному с национальной безопасностью.

Для Великобритании это создаёт стратегический риск. Если её оценщики будут получать передовые системы лишь после релиза — или после того, как их уже проверили другие правительства и одобренные партнёры, — страна может перейти от формирования доказательной базы по безопасности к использованию выводов, сделанных другими.

Как могла бы выглядеть более устойчивая британская система

Ближайшая цель не обязательно должна состоять в принудительной передаче весов модели. Для особенно мощных систем это само по себе может создать риски для безопасности и интеллектуальной собственности. Более жизнеспособный подход — обеспечить контролируемый и проверяемый доступ.

Возможные меры:

1. Уведомление до развёртывания определённых передовых моделей. Разработчиков можно обязать заранее уведомлять уполномоченный орган о выпуске моделей, достигающих заранее установленных порогов возможностей или риска.
2. Закреплённое законом право запрашивать сведения. AI Security Institute мог бы получить чёткие полномочия требовать материалы по безопасности, результаты оценок, сведения об инцидентах и релевантную техническую документацию.
3. Защищённая среда для тестов. Правила могут предусматривать ограниченный по времени доступ через контролируемые API, изолированные среды или другие механизмы, не требующие передачи весов модели.
4. Процедура проверки с точки зрения национальной безопасности. Модели со значимыми последствиями для кибербезопасности, наук о жизни или автономных агентов могли бы проходить совместную оценку с участием специалистов по кибербезопасности, биозащите, разведке и тестированию ИИ.
5. Формализованное сотрудничество с ЕС. Общие протоколы оценки, взаимные защищённые каналы тестирования и совместимые процедуры сообщения о серьёзных инцидентах уменьшили бы дублирование работы и снизили риск исключения Великобритании из европейских сетей тестирования.

Эти меры отвечают на ключевую слабость, выявленную данным случаем: доступ к моделям должен быть встроен в систему управления рисками, а не целиком зависеть от отношений с отдельными лабораториями.

Тестирование передового ИИ, вероятно, станет многоуровневым

Вероятнее всего, сформируется многоуровневая система оценок. Модели, ориентированные на широкий рынок, будут подпадать под тестирование со стороны поставщиков, требования к документации и обязанности по сообщению об инцидентах. Более чувствительные возможности в киберсфере, биологии и автономных агентах будут всё чаще проверяться в ограниченных условиях. Доступ к системам наивысшего риска может быть предоставлен лишь небольшому кругу проверенных государственных структур, лабораторий и партнёров по безопасности.

Доступ ENISA к моделям и исключение Великобритании из предрелизной проверки Mythos 5.1 показывают, почему это различие имеет значение. Конкуренция теперь идёт не только за то, кто создаст самую мощную модель, но и за то, кто сможет изучить, протестировать и регулировать её наиболее значимые версии до широкого внедрения. 91220

Для Великобритании техническая способность оценивать модели по-прежнему ценна, но одной её недостаточно. Чтобы сохранить влияние, стране понадобятся надёжные юридические полномочия внутри страны и устойчивые, учитывающие требования безопасности механизмы доступа вместе с зарубежными партнёрами.