Что стоит за репликой Яковенко о «прибыльности при капитализации $1 трлн»

Реплика сооснователя Solana Анатолия Яковенко — «Profitability at $1 trillion mcap» («Прибыльность при капитализации $1 трлн») — выглядела как скептический выпад в адрес призывов замедлить развитие передового ИИ. Вероятный смысл: риторика о безопасности может одновременно отвечать коммерческим интересам чрезвычайно дорогих ИИ-компаний, которым необходимо превратить дорогостоящую разработку моделей в устойчивую прибыль.

Это именно интерпретация его короткой фразы, а не установленный факт о мотивах Anthropic, OpenAI или другой компании. Яковенко не указал, о какой организации говорит, не представил финансовых расчётов и не связывал спор с Solana или токеном SOL. 3541

Что именно критиковал Яковенко

Сокращение mcap означает market capitalization, то есть рыночную капитализацию. В контексте дискуссии Яковенко, по-видимому, указывал на привычное для критиков противоречие: общие ограничения, которые замедляют всех, гораздо легче перенести крупным, хорошо профинансированным лабораториям, чем небольшим конкурентам.

Его критика также затрагивала саму идею, что небольшая группа руководителей ИИ-компаний может совместно определять темп развития всей отрасли. В такой конструкции правила безопасности могут восприниматься как координация в пользу действующих лидеров рынка — или как «регуляторный захват», когда компании, выигрывающие от ограничений, участвуют в написании этих ограничений.

Однако это не доказывает, что именно таковы были мотивы Дарио Амодеи. Публикации подтверждают, что Яковенко поставил мотивы инициативы под сомнение, но не подтверждают, что призыв Anthropic к более сдержанному темпу был вызван прибыльностью, оценкой компании, затратами на инфраструктуру или планами выхода на биржу. 3543

Что Амодеи предложил на самом деле

В опубликованном 12 сентября эссе We Must Pace the Frontier гендиректор Anthropic Дарио Амодеи призвал снизить темп роста возможностей ИИ-моделей, чтобы исследования безопасности, выравнивание целей моделей с человеческими намерениями (alignment) и независимая оценка успевали за техническим прогрессом. При этом он прямо уточнил: речь не идёт о прекращении обучения моделей или остановке технического развития. 7

План состоит из трёх расширяющихся этапов:

1. Встроенные независимые оценщики. Лаборатории передового ИИ предоставляют внешним оценщикам постоянный доступ, сопоставимый с доступом сотрудников. Они должны проверять меры защиты, оценивать выравнивание в ходе обучения и сообщать об инцидентах. Anthropic заявила, что возьмёт это обязательство на себя в одностороннем порядке. 716
2. Координация демократических стран. Лаборатории и правительства демократических государств должны стремиться к общим стандартам безопасности и ограничениям темпа развития. 7
3. Ограниченные международные соглашения. Государства должны пытаться заключать более узкие договорённости с другими странами — потенциально включая Китай и авторитарные режимы — там, где возможны проверка соблюдения и взаимная сдержанность. 78

Различие принципиально: первый пункт — конкретное обязательство одной компании, тогда как второй и третий зависят от координации компаний и правительств. Это предложения, а не уже действующие правила. 9

Почему заговорили о «картеле»

Спор вызывает не сама идея более тщательного тестирования моделей. Главные вопросы — кто устанавливает темп, что именно должно стать поводом для задержки разработки и не ограничат ли согласованные стандарты конкуренцию.

Дэвид Сакс заявил, что Anthropic и OpenAI не требуется чьё-либо разрешение, чтобы замедлить собственные разработки, если они действительно считают свои системы опасными. Его возражение касалось попытки превратить это в более широкую регуляторную или антимонопольную схему, которая могла бы связать конкурентов. По мнению Сакса, существует риск, что дуополия лидеров передового ИИ использует правила для защиты своего положения. 5052

Именно в этом состоит наиболее сильная версия опасения, которое передавала реплика Яковенко: добровольные меры безопасности — одно, а скоординированные отраслевые ограничения способны изменить не только практику безопасности, но и условия конкуренции.

Что поддержали Альтман и Маск

Глава OpenAI Сэм Альтман заявил, что согласен с необходимостью «сдерживать темп на переднем крае», и назвал отличной идею независимых оценщиков с доступом уровня сотрудников, добавив, что OpenAI поступит так же. Илон Маск ответил намного короче: «Dario is right» — «Дарио прав». 1821

Однако эти реакции сами по себе не дали ответа на более сложные вопросы: как будет устроена международная координация, будут ли ограничения темпа обязательными и каким станет общий отраслевой механизм. Наиболее явно их поддержка относилась к идее встроенных оценщиков. 1820

Какие детали остаются неясными

Постоянный внешний надзор имеет практический смысл только при понятных правилах работы. В доступных материалах оставались открытыми, в частности, такие вопросы:

• Независимость: кто назначает и финансирует оценщиков и что защищает их от зависимости от проверяемой лаборатории?
• Доступ: какие системы, процессы обучения, отчёты об инцидентах, веса моделей, данные и внутренние инструменты они смогут изучать?
• Право на публикацию: смогут ли оценщики раскрывать негативные выводы без согласия компании?
• Пороговые условия: какой результат теста или уровень риска должен требовать отложить обучение, развёртывание либо выпуск модели?
• Исполнение: кто обеспечит, чтобы компания следовала выводам оценщиков?
• Конкуренция и безопасность: как согласовывать стандарты, не обмениваясь коммерчески чувствительной информацией и не создавая антимонопольных проблем?
• Международная проверка: что сделает возможное соглашение с Китаем или другими правительствами достоверным и проверяемым?

Именно эти пробелы позволяют критикам говорить о риске расплывчатых правил под контролем лидеров рынка, тогда как сторонники видят в инициативе попытку заменить декларации о безопасности постоянной внешней проверкой. 1053

Более медленный темп или полноценная пауза

Полемика выявила разные представления о том, насколько жёсткой должна быть реакция на риски ИИ. Сенатор Берни Сандерс воспринял совпадение позиций Амодеи, Альтмана и Маска как аргумент в пользу более сильного вмешательства: паузы в развитии ИИ и запрета на сверхинтеллект. 48

Собственная инициатива Амодеи заметно уже: она предлагает сбалансированный темп, который оставляет время на выравнивание и проверку систем, а не полный запрет. 7 Сакс, напротив, считает, что компании, обеспокоенные рисками, должны добровольно замедлить собственную работу, а не добиваться согласованной схемы, распространяющейся на других участников рынка. 52

Нерешённый выбор прост в формулировке, но сложен на практике: замедление американских лабораторий передового ИИ может вызвать опасения за их конкурентные позиции, особенно в сравнении с Китаем; однако неконтролируемая гонка способна оставить оценку рисков и надзор далеко позади роста возможностей моделей. План Амодеи пытается совместить эти две задачи через поэтапный надзор и будущую международную координацию, но механизм исполнения его ключевых частей пока не согласован. 74

Итог

Фраза Яковенко не была финансовым выводом — это провокационный вопрос о стимулах. Она представляет кампанию за замедление ИИ как потенциально совместимую с интересами влиятельных лабораторий, которые хотят защитить высокие оценки и со временем доказать прибыльность. Но предоставленные материалы не подтверждают это обвинение и не устанавливают, что планы IPO стали причиной инициативы.

Установленные факты уже: Anthropic обязалась предоставить сторонним оценщикам постоянный доступ, OpenAI публично поддержала такой подход, а более широкий проект согласованных ограничений темпа остаётся предметом спора. Главный вопрос не в том, нужно ли строже проверять передовой ИИ, а в том, должны ли компании, находящиеся на технологическом переднем крае, участвовать в установлении правил, определяющих, кто сможет конкурировать на этом рынке. 71850