Amazon: сначала жёсткое тестирование ИИ, а не общий запрет на ускорение

Amazon заняла в споре о безопасности искусственного интеллекта промежуточную позицию: мощные модели следует выпускать лишь после тщательного тестирования и внедрения надёжных защитных мер, а индустрии необходимо взаимодействовать с государством. Однако компания не поддержала общий скоординированный призыв замедлить разработку ИИ. 6

Логика Amazon такова: безопасность и технологический прогресс не противоречат друг другу. Это подход «проверить перед выпуском», а не требование увязать скорость роста возможностей моделей с тем, успевают ли развиваться меры безопасности.

Что именно предлагает Amazon

В комментарии Reuters представитель Amazon заявил, что модели должны выходить на рынок, когда они «готовы и безопасны для использования», а этого можно добиться благодаря строгим испытаниям и сильным защитным механизмам. Компания также подчеркнула важность совместных действий индустрии и властей. 6

Ключевое различие — в точке контроля. Amazon не требует остановки обучения моделей или всеобщего ограничения их совершенствования. Её заявленный критерий относится к готовности к выпуску: систему нужно оценить, снабдить защитными мерами и не развёртывать, пока она не будет достаточно безопасной.

Но остаются принципиальные вопросы: кто устанавливает стандарт тестирования, какие доказательства подтверждают безопасность модели и достаточно ли проверок, проводимых самими разработчиками.

Чем позиция отличается от предложения Anthropic

Гендиректор Anthropic Дарио Амодеи призвал компании, создающие наиболее мощные — так называемые передовые — модели, замедлить темп наращивания их возможностей, чтобы меры безопасности успевали за развитием технологии. Его план предусматривает независимых оценщиков с глубоким доступом к системам, общие отраслевые стандарты и международную координацию. 12

Таким образом, предложение Амодеи строже позиции Amazon. Он считает, что, если защитные механизмы отстают от возможностей моделей, корректировать может потребоваться не только выпуск продукта, но и сам темп разработки. Его предупреждения касаются возможных сценариев злоупотреблений и потери контроля в будущем; это аргументы в пользу предосторожности, а не доказательство того, что автономный ИИ уже вышел из-под контроля. 111

Если коротко:

• Amazon: продолжать развитие, но не выпускать модель, пока она не прошла строгие проверки и не признана безопасной для использования. 6
• Anthropic: безопасность должна влиять и на скорость развития передовых возможностей; нужны независимый надзор и согласованные стандарты. 12

Как распределились позиции других компаний

Руководители OpenAI, Google DeepMind и xAI публично поддержали общее направление предложения Амодеи. Глава OpenAI Сэм Альтман заявил, что готов взять на себя аналогичное обязательство предоставить внешним оценщикам доступ на уровне сотрудников для проверки практик безопасности. 4

Однако поддержка общей цели не решает практических проблем. Для скоординированного замедления потребовались бы единое определение опасных возможностей ИИ, надёжная процедура верификации и договорённость между конкурентами, работающими под коммерческим и геополитическим давлением. Как отмечал Reuters, лидеры отрасли расходятся и в оценке срочности угрозы, и в выборе ответа на неё.

Гендиректор Meta Марк Цукерберг, напротив, выступает за рыночные механизмы защиты вместо согласованного замедления.

Главный политический спор: добровольные тесты или обязательный надзор

Подход Amazon естественно сочетается с предрелизными оценками, «красными командами» — проверками, в которых специалисты пытаются выявить уязвимости системы, — мерами киберзащиты и отчётностью о рисках. В докладе International AI Safety Report 2026 к важным практикам управления рисками отнесены моделирование угроз, оценка опасных возможностей, раскрытие информации и сообщения об инцидентах.

Неясно, должны ли такие меры оставаться добровольными. Переговорщики в Сенате США обсуждают законопроект, который обязал бы ИИ-компании доказывать, что они принимают «разумные меры предосторожности» для предотвращения вреда. По данным Reuters, министр торговли США мог бы запрашивать подтверждающие материалы и направлять государственных аудиторов для тестирования продуктов компаний. 20

Такой режим обязанности проявлять должную осмотрительность перевёл бы дискуссию за пределы корпоративных обещаний. Он не обязательно означал бы всеобщую паузу, но позволил бы внешнему органу проверять и оспаривать утверждение компании о готовности модели к выпуску.

Координация упирается в антимонопольные риски

Общий договор о безопасности мог бы сделать тестирование и отчётность более единообразными, но сразу возникает вопрос: кто будет писать правила. Председатель Федеральной торговой комиссии США Эндрю Фергюсон заявил, что к просьбам ИИ-компаний об антимонопольных исключениях при одновременном лоббировании нового регулирования следует относиться «с глубоким подозрением». При этом эксперты сообщили Reuters, что действующее антимонопольное право может допускать координацию для предотвращения катастрофических рисков. 17

Гендиректор Cohere Айдан Гомес также предупреждал, что соглашение о безопасности, контролируемое небольшой группой ведущих лабораторий, способно закрепить позиции нынешних лидеров. Он выступает за независимо проверяемые меры защиты, прозрачность и более широкое участие в выработке стандартов, а не за право крупнейших компаний определять правила в одиночку.

Эта критика не опровергает доводы в пользу совместных действий по безопасности. Но она подчёркивает отдельное требование: надзор должен быть и убедительным, и защищённым от ситуации, когда правила начинают обслуживать интересы тех, кого должны контролировать.

Сложный политический фон

Политическая обстановка в США может осложнить формулу Amazon о сотрудничестве государства и отрасли. Администрация Трампа призывала к более невмешательному международному подходу к регулированию ИИ, а президент Дональд Трамп заявлял, что существующих ограничителей достаточно. Администрация также уведомила разработчиков, что не будет подвергать модели с открытыми весами добровольному тестированию на безопасность.

Одновременно Билл Гейтс говорил, что правительства не готовы к изменениям, которые принесёт ИИ, и должны координировать международные действия против рисков, включая вытеснение рабочих мест, зависимость и кибератаки. 18

Вывод

Amazon не призывает замедлять ИИ-гонку. Её позиция — повысить порог для выпуска: модель нельзя выводить в использование, пока она не прошла строгое тестирование и не получила надёжные защитные механизмы. 6

Это менее ограничительный подход, чем предложение Anthropic сдерживать развитие передовых возможностей, когда безопасность не успевает за технологией. Но он всё равно выводит на главный вопрос: могут ли компании убедительно контролировать собственные решения о релизе — или независимые оценщики и государственные органы должны иметь возможность проверять, оспаривать и при необходимости блокировать их. 120