Призыв замедлить развитие ИИ: OpenAI отложила IPO, рынки упали, Трамп возразил

Призыв главы Anthropic Дарио Амодеи замедлить развитие наиболее мощных систем искусственного интеллекта быстро вышел за пределы дискуссии о безопасности. Он привёл к редкому публичному согласию между руководителями ведущих ИИ-лабораторий, переносу ожидаемого IPO OpenAI как минимум на 2027 год, распродаже акций, связанных с ИИ, и жёсткой реакции президента США Дональда Трампа. 1710

Что именно предложил Амодеи

Амодеи не призывал остановить исследования ИИ. Его идея — «сбавить темп на переднем крае»: намеренно умерить скорость, с которой ведущие лаборатории наращивают возможности своих моделей, чтобы исследования безопасности, надзор и координация успевали за технологическим прогрессом.

По его оценке, всё более мощные системы могут стать труднее для понимания и контроля со стороны людей — особенно если ИИ начинает существенно помогать в создании следующего поколения ИИ. 177

План состоит из трёх направлений:

1. Независимый контроль внутри ведущих ИИ-лабораторий. Anthropic заявила, что предоставит сторонним оценщикам постоянный доступ к своим системам на уровне доступа сотрудников. Они смогут проверять соблюдение требований безопасности, сообщать об инцидентах и оценивать выравнивание моделей в ходе обучения. 17
2. Координация между разработчиками передового ИИ. Амодеи предложил выработать общие стандарты безопасности и ограничения, которые не позволят конкуренции перерасти в неконтролируемую гонку. 17
3. Международное сотрудничество. Предполагается взаимодействие государств для управления рисками, связанными с продвинутым ИИ. 17

Первый пункт особенно важен: часть оценки безопасности выводится за рамки внутренней проверки самой компании. Речь не об разовом внешнем аудите, а о постоянном доступе и контроле.

Альтман поддержал идею и отложил IPO OpenAI

Гендиректор OpenAI Сэм Альтман публично поддержал Амодеи, заявив, что OpenAI также необходимо «сбавить темп на переднем крае». Для компаний, конкурирующих в создании всё более мощных моделей, это стало необычным проявлением согласия. 1

Одновременно Альтман сообщил о важном деловом решении: OpenAI не планирует выходить на биржу в 2026 году. Он назвал IPO в нынешний момент «неблагоразумным», сославшись на значительный объём нерешённых задач по безопасности и выравниванию ИИ с человеческими целями. По данным Reuters, Альтман считает неприемлемой даже 10-процентную вероятность того, что ИИ приведёт к вымиранию человечества к концу десятилетия.

Тем самым OpenAI дала понять, что готова ставить работу по безопасности выше сроков одного из наиболее ожидаемых размещений в технологическом секторе. Подробного публичного графика замедления развития моделей компания не представила, однако поддержала более осторожный темп.

Какие предупреждения предшествовали предложению

Дискуссия развернулась после ухода Джейкоба Коксона — исследователя, который говорил, что занимался исследованиями предобучения как в OpenAI, так и в Anthropic. Коксон обвинил компании в том, что они «играют нашими жизнями», соревнуясь в создании самоулучшающихся ИИ-систем. 18

В публичном споре прозвучала и оценка руководителя направления Alignment Science в Anthropic Эвана Хубингера. Согласно сообщению CNBC, он лично оценивает вероятность того, что ИИ может уничтожить всё человечество в нынешнем десятилетии, выше чем в 10%. Это его персональная оценка риска, а не официальный прогноз Anthropic и не доказанный сценарий.

Такие заявления сделали давний и нередко абстрактный спор о катастрофических рисках ИИ непосредственным вопросом для руководителей компаний: следует ли и дальше максимизировать рост возможностей моделей, пока механизмы защиты ещё формируются.

Почему снизились акции ИИ-компаний

Инвесторы увидели в призыве к замедлению угрозу ключевым предположениям, на которых держалась ставка на ИИ: непрерывному росту возможностей моделей, крупным расходам на вычислительные мощности и устойчивому спросу на чипы и инфраструктуру.

После заявлений снизились азиатские акции, связанные с ИИ, а также американские фьючерсы на фондовые индексы. Бумаги SoftBank — крупного инвестора OpenAI — в Токио падали на максимуме на 13,2%, сообщал Reuters. Распродажа затронула и другие азиатские ИИ-компании. В других сообщениях говорилось о снижении фьючерсов на Nasdaq примерно на 1,5% на премаркете на фоне давления на производителей чипов.

Само по себе движение рынка не означает, что инвестиции в ИИ или спрос на микросхемы неизбежно рухнут. Оно показало переоценку одного риска: если прогресс в передовых моделях будут намеренно ограничивать или откладывать, ожидаемые выручка и доходность разработчиков, поставщиков инфраструктуры и ИИ-инвесторов могут прийти позже, чем предполагалось ранее.

Трамп отверг призыв к замедлению

Трамп не поддержал идею притормозить развитие ИИ, представив технологию прежде всего как соревнование США с Китаем за стратегическое лидерство. «Кто выигрывает в ИИ, тот выигрывает», — сказал он, добавив, что США опережают Китай и должны сохранить преимущество. 10

В этой реакции проявился центральный политический конфликт. Сторонники безопасности считают, что дополнительное время на тестирование, исследования выравнивания и независимый контроль снизит вероятность тяжёлого ущерба. Противники замедления опасаются, что односторонняя сдержанность даст преимущество государствам или компаниям, которые продолжат наращивать возможности без сопоставимых ограничений. 1710

Сам Амодеи признавал, что наиболее сложный вопрос для такого режима — отказ других стран, особенно соперничающих государств, включая Китай, участвовать в договорённостях. Если правила будут действовать лишь для части передовых лабораторий, ориентированные на безопасность компании могут понести коммерческие и геополитические издержки, не остановив саму гонку возможностей.

Что это значит для ИИ-компаний и рынков

Ситуация выявила необычное сочетание согласия и конфликта:

• Руководители лабораторий сошлись в необходимости усилить безопасность. Альтман поддержал Амодеи, а Anthropic обязалась внедрить постоянную независимую оценку.
• Практические правила пока не определены. Поддержка идеи «сбавить темп» сама по себе не создаёт общих порогов, механизмов принуждения или обязательного международного соглашения. 17
• IPO OpenAI затронуто напрямую. Альтман исключил размещение акций в 2026 году, сославшись на приоритет безопасности.
• Планы Anthropic по выходу на биржу по имеющимся данным остаются менее ясными. Источники подтверждают обязательство компании по независимой оценке и её политическое предложение, но не доказывают, что Anthropic официально изменила сроки IPO из-за этого спора.

В итоге спор идёт не о том, должен ли ИИ развиваться вообще. Главные вопросы — кто определяет скорость этого развития, какие независимые доказательства безопасности нужны до повышения возможностей моделей и смогут ли обязательства по безопасности выдержать коммерческое и геополитическое давление двигаться быстрее. 1710