Яковенко про «прибутковість за капіталізації $1 трлн»: що стоїть за його критикою уповільнення ШІ

Коротка відповідь: репліка співзасновника Solana Анатолія Яковенка — «Profitability at $1 trillion mcap» («прибутковість за капіталізації $1 трлн») — була скептичною шпилькою щодо мотивів закликів пригальмувати розвиток передового ШІ. Ймовірний зміст такий: безпекова пауза або спільні обмеження можуть водночас відповідати комерційним інтересам надзвичайно дорогих ШІ-компаній, яким треба перетворювати витратну розробку моделей на стійкий прибуток.

Це інтерпретація його короткого допису, а не встановлений факт. Яковенко не назвав конкретної компанії, не надав фінансових даних і не пов’язував дискусію ані з Solana, ані з токеном SOL. 3541

Що саме критикував Яковенко

Скорочення mcap означає market capitalization — ринкову капіталізацію, тобто біржову вартість компанії. У цьому контексті коментар Яковенка вказує на типову для таких дискусій напругу: правило, що сповільнює всіх учасників ринку, великим і добре профінансованим лабораторіям може бути легше витримати, ніж меншим конкурентам.

Його критика також висміює перспективу, за якої вузьке коло керівників ШІ-індустрії фактично визначає, з якою швидкістю має рухатися весь сектор. У найжорсткішому прочитанні це побоювання, що безпекові правила можуть перетворитися на зручну для чинних лідерів координацію — або на так зване регуляторне захоплення, коли правила формують ті, хто найбільше від них виграє.

Втім, це не доводить мотивів CEO Anthropic Дорі Амодеї. Наявні матеріали підтверджують, що Яковенко поставив під сумнів мотиви пропозиції, але не підтверджують, що саме прибутковість, оцінка компаній, витрати на інфраструктуру чи плани IPO стали причиною заклику Anthropic до стриманішого темпу. 3543

Що насправді запропонував Амодеї

У есе від 12 вересня We Must Pace the Frontier Амодеї закликав зменшити швидкість, з якою зростають можливості ШІ-моделей, аби дослідження безпеки, узгодження поведінки моделей (alignment) та зовнішня перевірка встигали за технологічним прогресом. Він окремо наголосив: «пригальмувати передній край» не означає зупинити навчання моделей чи технічний розвиток. 7

Його схема складається з трьох етапів:

1. Вбудовані незалежні оцінювачі. Лабораторії передового ШІ мають надати зовнішнім фахівцям постійний доступ, близький до рівня працівників: для перевірки запобіжників, оцінювання узгодження моделі під час навчання та повідомлення про інциденти. Anthropic заявила, що зробить цей крок односторонньо. 716
2. Координація між демократичними країнами. Компанії та уряди демократичних держав мали б рухатися до спільних стандартів безпеки й обмежень темпу розвитку. 7
3. Обмежені міжнародні угоди. Держави могли б шукати вужчі домовленості з іншими країнами — потенційно з Китаєм та авторитарними державами — там, де можливі перевірка виконання і взаємне стримування. 78

Важливе уточнення: конкретним зобов’язанням Anthropic був лише перший пункт. Другий і третій залежать від домовленостей між компаніями та урядами, тому поки є пропозиціями, а не чинними правилами. 9

Чому виникла критика про «картель»

Суперечка точиться не лише навколо того, чи повинні компанії ретельніше тестувати моделі. Ключові питання — хто встановлює темп, що саме вважатиметься підставою для затримки та чи не обмежать спільні стандарти конкурентів.

Девід Сакс заявив, що Anthropic і OpenAI не потребують дозволу, аби пригальмувати власні розробки, якщо вважають свої системи небезпечними. Його заперечення стосувалося спроб перетворити таке рішення на ширшу регуляторну або антимонопольну рамку, обов’язкову для інших. Сакс назвав ризиком ситуацію, коли «дуополія» чинних лідерів використовує правила для захисту власних позицій. 5052

Саме в цьому полягає найсильніша версія претензії, яку можна пов’язати з коментарем Яковенка: добровільні безпекові зобов’язання — одна річ, а скоординовані обмеження для цілої індустрії можуть змінювати не лише практики безпеки, а й умови конкуренції.

Що підтримали Альтман і Маск

Гендиректор OpenAI Сем Альтман написав, що погоджується з потребою «пригальмувати передній край», а ідею незалежних оцінювачів із доступом, подібним до доступу працівників, назвав «чудовою». Він додав, що OpenAI зробить те саме. Ілон Маск відповів значно коротше: «Dario is right» («Дорі має рацію»). 1821

Проте ці реакції самі по собі не розв’язують складніші питання: міжнародну координацію, примусові обмеження темпу чи загальногалузеву рамку. Найчіткіше їхня публічна підтримка стосувалася саме моделі вбудованих зовнішніх оцінювачів. 1820

Яких деталей бракує

Постійний зовнішній нагляд матиме реальний зміст лише за чітких правил роботи. У доступних матеріалах залишилися без відповіді кілька головних питань:

• Незалежність: хто призначає та фінансує оцінювачів і що гарантує їхню незалежність від лабораторії?
• Доступ: які саме системи, процеси навчання, звіти про інциденти, ваги моделей, дані та внутрішні інструменти вони можуть перевіряти?
• Право на публікацію: чи можуть оцінювачі оприлюднити негативні висновки без згоди компанії?
• Пороги рішень: який результат тесту чи рівень ризику має змусити лабораторію відкласти навчання, розгортання або реліз моделі?
• Виконання: хто забезпечуватиме, що компанія справді виконає висновки оцінювачів?
• Конкуренція та безпека: як узгоджувати стандарти, не обмінюючись комерційно чутливою інформацією та не створюючи антимонопольних проблем?
• Міжнародна перевірка: що зробить домовленість із Китаєм чи іншими урядами достовірною та такою, яку можна перевірити?

Саме ці прогалини пояснюють, чому критики вбачають ризик розмитих правил, контрольованих великими гравцями, а прихильники — спробу перетворити заяви про безпеку на постійний незалежний контроль. 1053

Повільніший темп чи повна пауза

Дискусія також показала різне бачення того, якою має бути відповідь на ризики ШІ. Сенатор Берні Сандерс сприйняв збіг позицій Амодеї, Альтмана та Маска як аргумент на користь жорсткішого втручання: паузи в розвитку ШІ та заборони надінтелекту. 48

Пропозиція Амодеї була вужчою: вона передбачає збалансований темп, який залишає час для узгодження поведінки моделей і перевірки безпеки, а не повну заборону. 7 Натомість Сакс наполягав, що компанії, які занепокоєні ризиками, повинні добровільно пригальмувати себе, а не домагатися скоординованого режиму для всіх інших. 52

Компроміс тут непростий. Уповільнення американських лабораторій може посилити побоювання щодо конкурентних позицій США, зокрема у змаганні з Китаєм. Але неконтрольована гонка може залишити безпекове оцінювання й нагляд далеко позаду можливостей моделей. План Амодеї намагався охопити обидві проблеми через поетапний нагляд і потенційну міжнародну координацію, однак для його найважливіших частин досі немає погодженого механізму виконання. 74

Висновок

Фраза Яковенка не була фінансовим дослідженням — це була провокація про стимули. Вона подає заклики до уповільнення ШІ як такі, що потенційно сумісні з інтересами потужних лабораторій: захищати високі оцінки та зрештою довести прибутковість.

Надані джерела цього звинувачення не підтверджують і не встановлюють, що плани IPO стали причиною пропозиції. Натомість підтверджений факт вужчий: Anthropic зобов’язалася допустити вбудованих незалежних оцінювачів, OpenAI публічно підтримала цей підхід, а ширший план скоординованих обмежень досі викликає гострі суперечки. Центральне питання — не те, чи слід суворіше перевіряти передовий ШІ, а те, чи мають компанії на передньому краї допомагати встановлювати правила, від яких залежить, хто зможе змагатися на цьому ринку. 71850