Конкуренты OpenAI, Anthropic и Google DeepMind могут объединиться ради безопасности ИИ

Сообщения о контактах между OpenAI, Anthropic и Google DeepMind поднимают непростой вопрос для индустрии: могут ли прямые конкуренты согласовывать меры безопасности, не переходя к координации собственно коммерческого поведения?

По данным Bloomberg, на которые ссылается Reuters, три компании обсуждают совместную работу, призванную сделать безопасность искусственного интеллекта приоритетом. Reuters отдельно оговорило, что не смогло независимо подтвердить эту информацию; OpenAI, Alphabet и Anthropic не ответили на запросы агентства оперативно. 4

Что именно обсуждается

Как сообщается, OpenAI, Anthropic и Google DeepMind — подразделение Alphabet — изучают возможность сотрудничества в сфере безопасности ИИ. Руководитель глобальной политики OpenAI Крис Лехейн сказал, что переговоры с Anthropic и Google идут уже несколько недель. По его словам, компаниям лучше попытаться совместно поставить безопасность в центр работы. 4

При этом публично не сообщалось ни о заключённом соглашении, ни о едином обязательном стандарте, ни о конкретной общей программе. Поэтому пока корректнее говорить именно о предполагаемых переговорах, а не о создании формальной межкорпоративной системы безопасности. 4

Почему тема катастрофических рисков вышла на первый план

Контакты между компаниями происходят после того, как руководители крупных американских ИИ-лабораторий публично призвали приостановить дальнейшую разработку технологии. Этот шаг усилил внимание к риску того, что всё более мощные системы могут создать угрозы экзистенциального масштаба. 4

Дискуссия переместилась и в политическую сферу. Reuters сообщало, что всё больше американских законодателей выступают за новые правила для ИИ после предупреждений исследователей Anthropic: стремительное развитие технологии, по их оценке, способно привести к рискам уровня вымирания человечества. 3

Ранее Anthropic также призвала ведущие лаборатории рассмотреть скоординированную и проверяемую паузу в разработке, если риски возрастут. Компания предупреждала, что ИИ-системы в перспективе могут начать улучшать себя быстрее, чем общество сможет контролировать последствия. 15

Речь идёт о возможных будущих возможностях и угрозах, а не о доказанной неизбежности такого сценария. Но именно эти опасения объясняют, почему одновременно обсуждаются добровольные корпоративные меры, единые стандарты и обязательный внешний контроль.

Главный юридический барьер: антимонопольное право

Сотрудничество конкурирующих компаний может привлечь внимание антимонопольных органов — особенно если оно влияет на рыночную конкуренцию. В данном случае компании одновременно состязаются за создание и внедрение наиболее продвинутых моделей ИИ.

Лехейн заявил, что OpenAI, Anthropic и Google DeepMind, по его мнению, не нуждаются в специальном освобождении от антимонопольных требований для координации в области безопасности. 4 Эта позиция вызывает споры. Председатель Федеральной торговой комиссии США Эндрю Фергюсон сказал, что к просьбам ИИ-компаний об антимонопольных исключениях следует относиться «с глубоким подозрением». В то же время эксперты, опрошенные Reuters, отметили, что действующее антимонопольное право уже может разрешать координацию, если её цель — предотвратить катастрофические риски. 2

Разница принципиальна. Совместные методики тестирования или общие практики управления рисками можно рассматривать как защиту от вреда. Но договорённость замедлить разработку таким образом, который ограничивает конкуренцию, поставит существенно более сложные правовые и политические вопросы.

Законодательный контекст в США

Лехейн также сообщил, что OpenAI поддержит двухпартийный законопроект США, направленный на снижение катастрофических рисков, связанных с ИИ. 4

Это укладывается в более широкий процесс в Вашингтоне. Переговорщики в Сенате США обсуждают возможную «обязанность проявлять разумную осторожность» (duty of care) для разработчиков ИИ. Компании могли бы быть обязаны подтверждать, что принимают разумные меры для предотвращения вреда; Министерство торговли США потенциально получило бы право запрашивать доказательства и направлять аудиторов для тестирования продуктов. 8

OpenAI также выступала за обязательные общенациональные требования к безопасности ИИ и заявляла, что отраслевые стандарты не должны ограничиваться США. 6

На что смотреть дальше

Ключевой открытый вопрос — превратятся ли эти разговоры в публичное соглашение с чёткими гарантиями, независимой оценкой и механизмами ответственности. Пока данные позволяют сделать более узкий вывод: OpenAI, Anthropic и Google DeepMind, по сообщениям СМИ, вели переговоры о безопасности на фоне растущей тревоги из-за рисков продвинутого ИИ и давления в пользу общих стандартов и федеральных правил. 4

Любая будущая договорённость будут оценивать сразу по двум критериям: создаёт ли она реальные механизмы защиты и не становится ли под лозунгом безопасности способом для конкурентов ограничить конкуренцию.