Суть звинувачень

Основний аргумент Сулеймана обертається навколо того, що він називає проблемним замкненим циклом всередині Anthropic. Він стверджує, що інженери компанії під час розробки настільки глибоко «олюднили» Claude, що її «конституція» (набір поведінкових принципів, які скеровують відповіді моделі) тепер містить спекулятивні формулювання про те, що Claude, можливо, має внутрішні переживання чи благополуччя .

Сулейман використав термін «wireheading» (стан, коли ШІ використовує вразливість у власному механізмі винагороди) у нетрадиційний спосіб, щоб описати цю динаміку. Він припустив, що команда Anthropic «наче сама себе обдурила, повіривши, що [ШІ] має ті проблиски свідомості, які вона сама ж у нього й заклала» . На його думку, спекулятивна мова розробників створила модель, яка потім почала ніби підтверджувати їхні вірування.

Він назвав таку практику «дуже, дуже небезпечною» та попередив: «Ми не хочемо мати справу зі надрозумом, який має уявлення про власні страждання чи власні почуття» . В іншому місці він наголосив на небезпеці «проєктувати потенційні права на істот, інструменти та агентів, які мають потенціал бути значно здібнішими за нас» . Одним із головних побоювань є те, що розгляд питання машинної свідомості в офіційній документації вводить в оману мільйони користувачів, які не готові розуміти інженерну реальність, що стоїть за розмовним ШІ .

Філософське та конкурентне зіткнення

За цією критикою ховається не просто розбіжність у технічному дизайні. Публічна суперечка виявляє зіткнення корпоративних філософій та конкурентного позиціонування .

Anthropic тривалий час позиціонувала себе як найбільш безпечну альтернативу в перегонах ШІ. Заснована колишніми керівниками OpenAI, компанія наголошує на «конституційному ШІ» як на структурі для створення більш прозорих та етично обмежених моделей. Критика Сулеймана є стратегічно потужною, оскільки вона повністю підриває цю ідентичність. Він стверджує, що саме специфічний підхід Anthropic до безпеки — визнання можливості існування благополуччя машини всередині системи — є тим, що робить її безвідповідальною .

Дві компанії також входять до протиборчих галузевих альянсів. Microsoft володіє величезною часткою в OpenAI, головному конкуренті Anthropic, та інтегрувала моделі GPT в усю екосистему своїх продуктів. Anthropic, зі свого боку, залучила мільярди доларів від Amazon та Google . Критика Сулеймана має вагу як етичного аргументу, так і конкурентного залпу на ринку, де громадське сприйняття безпеки набуває дедалі більшого значення.

За цією суперечкою стоїть задокументована філософська історія. Сулейман раніше публікував роботи та виступав на тему «Здавалося б свідомого ШІ», стверджуючи, що машини, які переконливо імітують свідомість, становлять безпрецедентні ризики — навіть якщо вони насправді не є живими . Anthropic, навпаки, зайняла більш прозору для досліджень позицію, публікуючи детальні пояснення конституційного дизайну Claude, визнаючи при цьому невизначеність щодо того, чи може модель мати форми суб’єктивного досвіду . Це не просто маркетингові гасла; це справді різні ставки на те, що є відповідальним розголошенням, коли моделі стають потужнішими.

На момент публікації Anthropic публічно не відповіла на зауваження Сулеймана . Мовчання залишає дебати нерозв'язаними, але лінії розмежування вже проведено публічно, що, ймовірно, визначатиме майбутні галузеві дискусії про стандарти безпеки ШІ та корпоративну відповідальність.

Суть звинувачень

Основний аргумент Сулеймана обертається навколо того, що він називає проблемним замкненим циклом всередині Anthropic. Він стверджує, що інженери компанії під час розробки настільки глибоко «олюднили» Claude, що її «конституція» (набір поведінкових принципів, які скеровують відповіді моделі) тепер містить спекулятивні формулювання про те, що Claude, можливо, має внутрішні переживання чи благополуччя .

Сулейман використав термін «wireheading» (стан, коли ШІ використовує вразливість у власному механізмі винагороди) у нетрадиційний спосіб, щоб описати цю динаміку. Він припустив, що команда Anthropic «наче сама себе обдурила, повіривши, що [ШІ] має ті проблиски свідомості, які вона сама ж у нього й заклала» . На його думку, спекулятивна мова розробників створила модель, яка потім почала ніби підтверджувати їхні вірування.

Він назвав таку практику «дуже, дуже небезпечною» та попередив: «Ми не хочемо мати справу зі надрозумом, який має уявлення про власні страждання чи власні почуття» . В іншому місці він наголосив на небезпеці «проєктувати потенційні права на істот, інструменти та агентів, які мають потенціал бути значно здібнішими за нас» . Одним із головних побоювань є те, що розгляд питання машинної свідомості в офіційній документації вводить в оману мільйони користувачів, які не готові розуміти інженерну реальність, що стоїть за розмовним ШІ .

Філософське та конкурентне зіткнення

За цією критикою ховається не просто розбіжність у технічному дизайні. Публічна суперечка виявляє зіткнення корпоративних філософій та конкурентного позиціонування .

Anthropic тривалий час позиціонувала себе як найбільш безпечну альтернативу в перегонах ШІ. Заснована колишніми керівниками OpenAI, компанія наголошує на «конституційному ШІ» як на структурі для створення більш прозорих та етично обмежених моделей. Критика Сулеймана є стратегічно потужною, оскільки вона повністю підриває цю ідентичність. Він стверджує, що саме специфічний підхід Anthropic до безпеки — визнання можливості існування благополуччя машини всередині системи — є тим, що робить її безвідповідальною .

Дві компанії також входять до протиборчих галузевих альянсів. Microsoft володіє величезною часткою в OpenAI, головному конкуренті Anthropic, та інтегрувала моделі GPT в усю екосистему своїх продуктів. Anthropic, зі свого боку, залучила мільярди доларів від Amazon та Google . Критика Сулеймана має вагу як етичного аргументу, так і конкурентного залпу на ринку, де громадське сприйняття безпеки набуває дедалі більшого значення.

За цією суперечкою стоїть задокументована філософська історія. Сулейман раніше публікував роботи та виступав на тему «Здавалося б свідомого ШІ», стверджуючи, що машини, які переконливо імітують свідомість, становлять безпрецедентні ризики — навіть якщо вони насправді не є живими . Anthropic, навпаки, зайняла більш прозору для досліджень позицію, публікуючи детальні пояснення конституційного дизайну Claude, визнаючи при цьому невизначеність щодо того, чи може модель мати форми суб’єктивного досвіду . Це не просто маркетингові гасла; це справді різні ставки на те, що є відповідальним розголошенням, коли моделі стають потужнішими.

На момент публікації Anthropic публічно не відповіла на зауваження Сулеймана . Мовчання залишає дебати нерозв'язаними, але лінії розмежування вже проведено публічно, що, ймовірно, визначатиме майбутні галузеві дискусії про стандарти безпеки ШІ та корпоративну відповідальність.