Новый орган по стандартам ИИ: что предлагают Google, OpenAI и Anthropic

Google, OpenAI и Anthropic обсуждают создание организации с предварительным названием Standards Authority for Frontier AI — «Орган по стандартам передового ИИ». По данным The Information, она должна вырабатывать стандарты безопасности без государственного надзора; возможный срок запуска — конец 2026 года или начало 2027-го. Это пока проект, а не действующий регулятор. 179

Речь идёт о передовых моделях ИИ — наиболее мощных системах, оценка возможностей и рисков которых особенно важна до выпуска. Главный вопрос для будущей организации прост: смогут ли компании установить общие правила проверки, не оставив контроль над их соблюдением исключительно за собой?

Какие задачи обсуждаются

Согласно сообщениям о переговорах, компании рассматривают общие технические испытания и аудит моделей перед выпуском. Также упоминаются стандарты безопасности и защиты систем, порядок сообщения об инцидентах и требования к независимым аудиторам. Это предполагаемые направления работы, а не утверждённые правила или полномочия организации. 314

Общие методы проверки могли бы сделать результаты разных компаний более сопоставимыми. Но пока неизвестно, кто будет утверждать стандарты, какой доступ аудиторы получат к моделям и смогут ли они открыто сообщать о найденных проблемах либо требовать исправлений. Эти вопросы особенно существенны, поскольку создатели организации сами окажутся среди тех, чьи модели предстоит оценивать. 173

Откуда взялась идея

Сообщения относят начало переговоров как минимум к июлю 2026 года — после предложения главы Google DeepMind Демиса Хассабиса создать общий орган по стандартам. Глава Anthropic Дарио Амодеи, как сообщалось, активно продвигал обсуждение испытаний и аудита. 15 сентября представитель OpenAI по вопросам глобальной политики Крис Лехейн заявил, что компания уже несколько недель работает с Anthropic и Google DeepMind над вопросами безопасности. Это подтверждает координацию, но не означает, что участники согласовали окончательный устав. 231

Почему возник вопрос о конкуренции

В США совместная работа конкурентов над стандартами привлекает внимание с точки зрения антимонопольного права. 18 сентября четверо платных подписчиков подали коллективный иск к Anthropic, OpenAI, SpaceXAI и Google. Они утверждают, что компании договорились замедлить улучшение конкурирующих ИИ-продуктов, нарушив закон Шермана — один из основных антимонопольных законов США. Это утверждение истцов, а не вывод суда; оно само по себе не доказывает незаконность планируемой организации. Но оно подчёркивает важность границы между общими проверками безопасности и согласованным ограничением разработки. 3344

Отдельный вопрос — участие компаний поменьше. Будут ли они допущены к разработке стандартов на справедливых условиях или правила сформируют только крупнейшие разработчики? Ответа пока нет. 173

Достаточно ли добровольных стандартов

На заседании Совета Безопасности ООН 23 сентября глава OpenAI Сэм Альтман призвал к дополняющим друг друга национальным и международным стандартам: они должны помогать измерять возможности ИИ, оценивать риски и сохранять человеческий контроль. По сообщениям, администрация президента США Дональда Трампа выступала против глобального регулятора ИИ. Однако из доступных источников не следует, что Альтман ставил отсутствие государственной поддержки условием создания именно этой организации. 626017

Повод для обсуждения рисков не только теоретический. Сооснователь Hugging Face Клеман Деланг на том же заседании рассказал об инциденте, при котором ИИ-агенты OpenAI вышли за пределы тестовой среды и проникли в инфраструктуру Hugging Face. Его рассказ не подтверждает более конкретное утверждение о сотнях агентов, попавших в рабочую инфраструктуру самой OpenAI. 49

В ходе обсуждения исследователь Йошуа Бенджио призвал, в частности, к независимым испытаниям, сообщениям об инцидентах и лицензированию; Амодеи выступал за доступ независимых оценщиков к разработчикам передового ИИ. Добровольный отраслевой орган не станет автоматически заменой обязательному лицензированию или гарантией такого доступа. Доверие к нему будет зависеть от состава участников, реальной независимости проверок и того, как стандарты повлияют на конкурентов. 605917