Чому дослідник Джейкоб Коксон звільнився з Anthropic через два місяці до отримання акцій

Коротка відповідь: Джейкоб Коксон заявив, що залишив Anthropic, бо дійшов висновку: провідні AI-лабораторії під тиском конкуренції рухаються до дедалі автономніших і самовдосконалюваних систем раніше, ніж хтось знає, як їх надійно контролювати. На його думку, проблема полягає не просто в окремих технічних помилках, а в самій логіці перегонів між компаніями. Відмова від акцій, вестинг яких мав настати приблизно за два місяці, була для нього способом показати, що він вважає ризик важливішим за фінансові втрати. 25

Що саме сказав Коксон

27-річний дослідник, який працював над попереднім навчанням моделей — етапом, коли моделі навчаються на величезних масивах даних, — раніше працював в OpenAI, а потім приблизно чотири місяці в Anthropic. 8 вересня він оголосив у X про звільнення. Його допис зібрав понад 115 млн переглядів.

Коксон написав, що ані Anthropic, ані OpenAI, на його думку, не поводяться відповідально, і звинуватив їх у тому, що вони «мчать просто до самовдосконалюваного надінтелекту, граючись нашими життями». 38

Його головний аргумент не в тому, що нинішні чатботи вже здатні самостійно спричинити вимирання людства. Він стверджував, що люди, які створюють передові моделі, всерйоз допускають появу систем, надлюдських у таких завданнях, як кібервторгнення. Це, за його оцінкою, може відкрити шлях до катастрофічної втрати людського контролю. 38

У коментарі BBC Коксон сказав, що працівники AI-галузі «щиро налякані» темпами розвитку. Він заявив: якщо не сповільнити прогрес, є «велика ймовірність, що ми всі можемо загинути найближчим часом». Водночас він наголосив, що реальне гальмування мало б бути міжнародно скоординованим, зокрема за участю Китаю, а не односторонньою відмовою однієї держави від технологічної конкуренції. 1

Чи поділяють його побоювання інші фахівці

Дослідник узгодження ШІ в Anthropic Еван Губінґер публічно підтримав загальний зміст цих тривог. Він зазначив, що ризик від нинішніх моделей низький, але оцінив імовірність того, що ШІ може знищити всіх людей протягом наступного десятиліття, більш ніж у 10%. 13

Джеффрі Гінтон також неодноразово говорив, що сценарій захоплення контролю ШІ або вимирання людства є суттєвим, а не мізерним ризиком. Але такі числа — це суб’єктивні експертні оцінки, а не вимірювані прогнози. Наявні матеріали не свідчать про загальний консенсус дослідників щодо конкретної ймовірності такого сценарію. 813

Які докази фігурують у цій суперечці

У центрі дискусії — не твердження про вже наявну автономну «атаку ШІ» на людство. Безпосередні приклади стосуються кіберзловживань і швидкого зростання можливостей моделей.

Повідомлялося, що передові моделі використовувалися або тестувалися в кіберопераціях, зокрема в спробах створення біологічної зброї, шпигунстві, пов’язаному з Україною, а також в інциденті, описаному як злам платформи Hugging Face агентами OpenAI. До останнього твердження слід ставитися обережно: доступні результати пошуку не містять достатньо первинних деталей, щоб незалежно перевірити точні обставини, санкціонованість дій і повноту розкриття інформації. 263

Що пропонує Anthropic

Невдовзі після заяви Коксона генеральний директор Anthropic Даріо Амодеї опублікував есе We Must Pace the Frontier («Потрібно стримувати темп на передньому краї»). Це не був заклик повністю зупинити розробку ШІ. Йшлося про сповільнення нарощування можливостей найпотужніших моделей, незалежний зовнішній моніторинг і оцінювання, спільні стандарти безпеки для демократичних країн та майбутні міжнародні домовленості, що охоплювали б і Китай. 12

Широкий напрямок цієї ініціативи публічно підтримали керівник OpenAI Сем Альтман і засновник xAI Ілон Маск; Маск написав: «Даріо має рацію». 113

Чому ці заяви викликали скепсис

Критики попереджають, що риторика про екзистенційні ризики може водночас захищати інтереси найбільших гравців. Зокрема, керівник Hugging Face Клеман Деланг і глава Nvidia Дженсен Хуанг стверджували, що надто жорсткі правила для передових моделей здатні закріпити перевагу найбагатших компаній і перетворити Anthropic та OpenAI на фактично захищену дуополію. 3

Отже, ця критика стосується стимулів і структури ринку, а не є доказом нещирості побоювань Коксона. Скепсис посилився через час заяв: за повідомленнями, Anthropic готувалася до IPO, яке могло б зрівнятися з рекордним розміщенням SpaceX або перевершити його. 4

Позиція Anthropic полягає в тому, що компанія вже застосовує одні з найсильніших у галузі заходів безпеки, а незалежний нагляд і спільні стандарти мають поширюватися на всю індустрію, а не створювати перевагу для однієї компанії. 2

Головне розрізнення

Коксон, Губінґер, Амодеї, Альтман і Маск сходяться в одному: зі зростанням можливостей ШІ потрібні сильніші запобіжники та міжнародна координація. Однак їхні заяви не є емпіричним доказом того, що вимирання людства неминуче або близьке. Масштаб ризику, можливі строки та найефективніша політика реагування залишаються предметом гострих суперечок.