Гонка за ИИ или безопасность: почему Трамп спорит с Дарио Амодеи

Дональд Трамп отверг идею сознательно замедлить развитие наиболее мощных систем искусственного интеллекта. В его трактовке это прежде всего вопрос соперничества с Китаем: США должны сохранить лидерство, потому что «кто выигрывает ИИ — тот выигрывает». 17

Позднее Трамп назвал утверждения о том, что ИИ способен захватить мир или уничтожить человечество, «мистификацией». Сопротивление развитию ИИ и строительству дата-центров он охарактеризовал как «нездоровый заговор», выгодный Китаю. 19

Почему Трамп атаковал главу Anthropic

Поводом стал призыв гендиректора Anthropic Дарио Амодеи притормозить неконтролируемое наращивание возможностей передовых моделей. Разногласие здесь не столько о пользе ИИ, сколько о приоритетах.

Трамп делает упор на темп гонки и сохранение американского преимущества. Амодеи предупреждает, что возможности моделей могут расти быстрее, чем появляются надежные методы проверки, безопасности и управления ими. 17

Трамп также заявил, что у властей уже есть серьезные уголовные и регуляторные полномочия для контроля компаний, а достаточной «защитой» является сильный президент. Поэтому его критика Амодеи сочетает недоверие к предупреждениям об экзистенциальных рисках с опасением: новые формальные ограничения ослабят американские компании в сравнении с китайскими конкурентами. 1921

Что именно предлагает Амодеи

Эссе Амодеи We Must Pace the Frontier («Нужно задавать темп переднему краю») не призывает прекратить исследования ИИ. Смысл предложения — снизить скорость бесконтрольного роста возможностей настолько, чтобы работа над безопасностью, испытания и правила управления успевали за технологиями.

Его план состоит из трех частей:

1. Постоянные независимые оценщики внутри лабораторий. Anthropic пообещала предоставить внешним специалистам постоянный доступ к своим системам на уровне сотрудников компании. Они должны проверять соблюдение мер безопасности, сообщать об инцидентах и оценивать согласованность поведения моделей с заданными целями в ходе обучения. 16
2. Координация между ведущими разработчиками. Лаборатории, создающие передовые модели, должны выработать общие стандарты безопасности и ограничения на неконтролируемое ускорение разработки, а не соревноваться исключительно в росте возможностей систем.
3. Международное сотрудничество. Для управления наиболее серьезными рисками потребуется взаимодействие не только внутри одной страны или политического блока.

Первый пункт — не абстрактная рекомендация государствам или конкурентам. Anthropic представила его как собственное одностороннее обязательство. 16

Кто поддержал идею, а кто поставил условия

Глава OpenAI Сэм Альтман заявил, что согласен с необходимостью «задавать темп переднему краю», и сообщил, что OpenAI также даст доступ внешним оценщикам. Илон Маск, руководящий xAI, тоже поддержал Амодеи.

Гендиректор Microsoft Сатья Наделла одобрил осознанное сдерживание темпа и идею встроенных независимых оценщиков. Однако он подчеркнул важное условие: управление не должно контролироваться лишь несколькими компаниями. По его словам, развитие сверхинтеллекта имеет смысл только в том случае, если оно приносит пользу человечеству и остается под человеческим контролем.

Это еще не единый режим регулирования. Но позиции нескольких руководителей индустрии показывают: идея постоянной и более формализованной проверки наиболее мощных систем получила заметную поддержку.

Главная проблема — как договориться с Китаем

Бывший исследователь Anthropic и OpenAI Джейкоб Коксон сказал, что люди, создающие такие системы, «искренне напуганы» будущим человечества. Он приветствовал замедление, но подчеркнул: оно должно быть согласовано с Китаем. 1

Логика проста: компания или страна, которая сдерживает себя в одиночку, опасается проиграть тем, кто не будет соблюдать те же ограничения. Китайский МИД отверг призывы Амодеи, затрагивающие развитие китайского ИИ, восприняв их как попытку США сдерживать Китай, а не как нейтральное регулирование безопасности. 4

Отсюда возникает дефицит доверия. Сторонники правил считают взаимные ограничения способом уменьшить риски. Противники могут видеть в тех же правилах инструмент закрепления технологического превосходства другой стороны.

Возражение: правила безопасности могут защищать лидеров рынка

Инвестор Майкл Берри назвал кампанию за замедление «корыстной». Его аргумент: более медленное развитие и тяжелые требования к соблюдению норм могут помочь уже доминирующим компаниям, поскольку новым игрокам станет сложнее с ними конкурировать. Берри также оспорил мнение, что нынешние большие языковые модели находятся на пути к общему искусственному интеллекту.

Эта критика сама по себе не опровергает риски, о которых говорит Амодеи. Но она указывает на практическую проблему: меры, задуманные для повышения безопасности передового ИИ, способны одновременно усилить концентрацию технологической и рыночной власти. Убедительная система правил должна учитывать оба риска.

Почему важна встреча Трампа и Си Цзиньпина

Трамп и лидер Китая Си Цзиньпин, как ожидалось, должны были обсудить управление ИИ на встрече, намеченной на 24 сентября. 4

Ее значение в том, что самый сложный элемент стратегии безопасности — не написать правило для одной лаборатории, а создать договоренности, которые соперничающие государства сочтут взаимными и выполнимыми. Риторика Трампа о гонке с Китаем и неприятие Пекином ограничений на собственное развитие ИИ показывают, насколько трудным будет такой диалог.

Таким образом, спор не сводится к выбору между полной остановкой и безусловным ускорением. Вопрос в том, возможно ли управлять гонкой за ИИ так, чтобы политика безопасности не стала еще одним фронтом геополитического соперничества. 174