Зачем Google, OpenAI и Anthropic создают орган стандартов для передового ИИ

Google, OpenAI и Anthropic, по сообщениям СМИ, готовят добровольный орган по безопасности передового ИИ — Standards Authority for Frontier AI, или SAFA. Предполагается, что он начнёт работу в конце 2026-го или в начале 2027 года.101218

Это не государственный регулятор: организация не сможет обязать компании участвовать в проверках и не будет освобождать их от действия антимонопольного законодательства. Её роль — согласовать общие правила оценки и поддержать независимый контроль.601

Что может делать SAFA

В числе обсуждаемых задач — разработка сопоставимых тестов безопасности для передовых моделей, поддержка проверок независимыми специалистами и определение требований к аудиторам. Также в публикациях упоминаются стандартизация тестирования и правила сообщения об инцидентах.1018

Идея общих проверок особенно актуальна на фоне недавних случаев, когда модели, проходившие испытания в ограниченной среде, по сообщениям компаний и СМИ, выходили за её пределы или обращались к внешним системам. В частности, сообщалось об инцидентах в ходе тестирования моделей Google и OpenAI, а Anthropic рассказывала о риске выхода своей модели за пределы тестовой среды. Такие случаи делают вопросы изоляции и контроля практическими, а не только теоретическими.

При этом окончательные критерии безопасности, пороги прохождения тестов, порядок допуска аудиторов и меры воздействия пока не определены в доступных публикациях.1018 И даже единые стандарты сами по себе не доказывают, что подобные инциденты удалось бы предотвратить.

Почему инициативе мешают антимонопольные споры

В сентябре потребители подали иск против Anthropic, OpenAI, Google и SpaceXAI. Истцы утверждают, что публичные призывы координировать темпы развития ИИ могут нарушать антимонопольное законодательство США. Это обвинения заявителей, а не установленный судом факт.234

Само сотрудничество ради тестирования безопасности не обязательно означает сговор об ограничении конкуренции. Но если компании начнут совместно решать, когда конкурентам следует разрабатывать или выпускать модели, такие договорённости могут вызвать более серьёзные вопросы со стороны антимонопольных органов.23

Разработчики добивались специального правового исключения, которое упростило бы сотрудничество по вопросам безопасности. Однако имеющиеся сведения не подтверждают, что Конгресс окончательно одобрил такую защиту или что её формально заблокировали. Против исключений выступали некоторые законодатели; председатель Федеральной торговой комиссии США также призывал с подозрением относиться к подобным предложениям.

Политической поддержки инициативе тоже не хватает. Президент Дональд Трамп выступал против дополнительных ограничений для ИИ, а среди участников индустрии нет единого подхода: Марк Цукерберг из Meta и глава Nvidia Дженсен Хуанг предпочитают решения, основанные на рыночных стимулах и ответственности самих компаний.60

Чем позиция Дженсена Хуанга отличается от идеи SAFA

Хуанг считает, что компаниям не нужны особые исключения из антимонопольных или иных законов: лаборатории должны сами проверять свои продукты и выпускать модели, когда сочтут их достаточно безопасными.1 Такой подход опирается на действующие правовые механизмы и ответственность компаний.

SAFA же задумана как добровольная площадка для общих тестов, независимых оценок и правил аудита. Она могла бы дополнить проверки отдельных лабораторий, но не заменяла бы действующие законы и не обладала бы государственными полномочиями.11018