Что известно о возможном органе стандартов безопасности для передового ИИ

Публичные сообщения указывают на реальное сближение позиций Anthropic, OpenAI и Google DeepMind в одном ключевом вопросе: наиболее мощные ИИ-модели должны проходить проверку не только внутри компании-разработчика, но и у внешних специалистов до выхода к пользователям. Однако из этого не следует, что компании уже создали общий регулятор или согласовали обязательные тесты, права аудиторов, условия выпуска моделей и санкции за нарушения. 811

Это принципиальная разница: согласие с необходимостью оценок ещё не означает появления института, который способен обеспечивать их исполнение.

Что именно предлагают

По данным СМИ, с июля 2026 года компании проводят рабочие встречи по созданию отраслевого органа стандартов для передового ИИ — то есть наиболее способных моделей. Предполагаемая цель — общая система оценки опасных возможностей до публичного развёртывания: прежде всего рисков в кибероперациях, биологическом злоупотреблении, обмане и других сценариях с тяжёлыми последствиями. 811

Наиболее чётко институциональную модель описал глава Google DeepMind Демис Хассабис. Он предложил создать возглавляемый США орган стандартов для передового ИИ, похожий на FINRA — саморегулируемую организацию финансовой отрасли США. В его схеме структура финансируется индустрией, но действует под федеральным надзором и тестирует передовые модели до релиза. Начать предлагается с добровольной передачи моделей на оценку, а обязательным механизм мог бы стать лишь после того, как процедура докажет свою работоспособность. 9

При этом в открытых источниках нет подтверждения, что лаборатории договорились по деталям, без которых такая система не будет полноценной:

• какие модели обязаны проходить проверку;
• какие технические тесты станут обязательными;
• какой доступ получат внешние оценщики;
• какие результаты должны остановить, отложить или ограничить релиз;
• кто будет финансировать и управлять структурой;
• как обеспечить независимость аудиторов от проверяемых компаний;
• каким будет государственный надзор и правовая защита.

Пока эти вопросы не решены, называть инициативу работающим совместным регулятором было бы преждевременно.

В чём компании, по-видимому, согласны

Самая очевидная точка совпадения — независимое тестирование перед выпуском модели. Axios сообщал в июле, что Дарио Амодеи, Сэм Альтман и Демис Хассабис в целом поддерживают внешнюю проверку передовых моделей до их выхода в публичный доступ, а не преимущественную опору на самоотчётность компаний. 8

Это существенно, потому что безопасность передовых моделей зависит не только от того, проводят ли разработчики собственные оценки. Не менее важно, могут ли независимые стороны воспроизвести результаты или оспорить их. Убедительной системе понадобятся ясные методики тестирования, надёжный доступ к системам и заранее определённые последствия для модели, превысившей порог риска.

Все три компании также рассматривают проблему как международную. Здесь есть стратегическая дилемма: США трудно вводить односторонние ограничения, если конкурирующие разработчики за рубежом не связаны сопоставимыми правилами. План Хассабиса прямо строится вокруг лидерства США, а Амодеи подчёркивал, что национальных мер недостаточно для систем, которые можно развернуть по всему миру. 91

Главное расхождение — в модели управления

Общий язык о безопасности скрывает фундаментальный спор: будет ли это преимущественно добровольный отраслевой механизм, система с поддержкой государства или регулятор с реальной властью?

Модель DeepMind предполагает финансирование со стороны индустрии при федеральном надзоре. На первом этапе участие должно быть добровольным, но позднее прохождение проверки могло бы стать условием для развёртывания модели. 9

Амодеи делает акцент на независимых оценщиках, постоянно работающих внутри лабораторий передового ИИ, и предлагает компаниям демократических стран согласовывать стандарты при государственной поддержке там, где она необходима. 12

Сообщения о рабочих обсуждениях характеризуют OpenAI как компанию, готовую поддержать действия индустрии, не дожидаясь, пока государство выстроит исчерпывающую систему регулирования. 11 Альтман также публично поддержал идею независимых оценщиков с доступом, сопоставимым с доступом сотрудников.

Различия не сводятся к формулировкам. Добровольная схема может быстрее запустить общие технические практики. Но без независимого управления и публичных полномочий ей может не хватить возможности требовать доступ, разрешать споры, предотвращать конфликт интересов или остановить выпуск модели, не прошедшей проверку безопасности.

Frontier Model Forum — не доказательство появления нового регулятора

Отраслевой Frontier Model Forum уже существует и объединяет крупных ИИ-разработчиков. Его заявленные цели включают исследования безопасности, разработку оценок и лучших практик, а также обмен информацией с властями и индустрией.

Поэтому форум может стать площадкой для координации. Но сам по себе он не доказывает, что новая независимая структура уже запущена или что межкорпоративная система аудита будет обязательной. Ключевой вопрос — ограничатся ли компании рекомендациями или создадут орган, способный самостоятельно оценивать модели и устанавливать значимые условия для их выпуска.

Почему эссе Амодеи изменило публичную дискуссию

12 сентября глава Anthropic Дарио Амодеи опубликовал эссе объёмом около 3 800 слов We Must Pace the Frontier («Нужно замедлить темп на переднем крае»). Он призвал замедлить рост возможностей ИИ, чтобы практики безопасности успевали за технологиями. 52

Амодеи предупредил, что в течение шести—двенадцати месяцев более способный автоматизированный рой ИИ-агентов потенциально может захватить интернет. Это следует понимать как прогноз и предупреждение о риске, а не как установленный технический факт. 513

Его план состоит из трёх частей:

1. Разместить независимых оценщиков внутри лабораторий передового ИИ, предоставив им доступ, близкий к уровню сотрудников, для тестирования систем, выявления нарушений безопасности и оценки соблюдения правил. 12
2. Согласовать общие стандарты и ограничения между ИИ-компаниями демократических стран при государственной поддержке, если она потребуется. 216
3. Добиваться более широкой международной координации, включая взаимодействие с авторитарными правительствами, поскольку продвинутые модели и связанные с ними риски легко масштабируются глобально. 115

Anthropic заявила, что предоставит сторонним оценщикам постоянный доступ на уровне сотрудников. Это сильнее, чем разовый внешний тест, однако доверие к такой модели будет зависеть от того, кто выбирает оценщиков, что именно они смогут изучать, смогут ли публиковать выводы и что произойдёт при выявлении неприемлемого риска. 122

Проверка на подотчётность

Главное возражение критиков очевидно: компании, соревнующиеся за создание наиболее мощных систем, могут одновременно участвовать в написании, администрировании и толковании правил для собственных продуктов.

Орган безопасности выглядел бы убедительнее при независимом техническом руководстве, прозрачных методиках оценки, защите от влияния компаний, значимом государственном надзоре и чётких полномочиях реагировать на проваленную проверку. Без этого общие стандарты способны улучшить практику, но не обязательно создадут независимую подотчётность.

Летний индекс безопасности ИИ 2026 года от Future of Life Institute показывает, почему скепсис сохраняется. Anthropic получила C+, OpenAI — C, Google DeepMind — C; ни одна из оценённых лабораторий не набрала выше C+. 17

Сенатор Берни Сандерс заявил, что одного замедления недостаточно: он призвал поставить на паузу разработку передового ИИ и запретить искусственный суперинтеллект. Это гораздо более жёсткая позиция, чем предложения самих лабораторий, но она подчёркивает разрыв между добровольным снижением темпа и юридически исполнимыми ограничениями.

На что смотреть дальше

Признаками реального прогресса станут не очередные заявления о принципах, а конкретные институциональные решения:

• опубликованный устав управления;
• названные независимые оценщики;
• единые тесты возможностей и сценариев злоупотребления;
• правила доступа для аудита и раскрытия результатов;
• пороги выпуска моделей и требования к устранению проблем;
• ясный ответ на вопрос, может ли заключение по безопасности отложить или предотвратить развёртывание.

Пока факты позволяют сделать более узкий вывод: крупнейшие лаборатории передового ИИ обсуждают общую инфраструктуру безопасности и всё чаще поддерживают внешнее тестирование. Останется ли результатом добровольный отраслевой форум или появится независимый орган с исполнимыми полномочиями — пока не решено. 8911