Керівник Microsoft AI різко розкритикував Anthropic за спекуляції про свідомість штучного інтелекту Claude

Він назвав таку практику «дуже, дуже небезпечною» та попередив: «Ми не хочемо мати справу зі надрозумом, який має уявлення про власні страждання чи власні почуття» . В іншому місці він наголосив на небезпеці «проєктувати потенційні права на істот, інструменти та агентів, які мають потенціал бути значно здібнішими за нас» . Одним із головних побоювань є те, що розгляд питання машинної свідомості в офіційній документації вводить в оману мільйони користувачів, які не готові розуміти інженерну реальність, що стоїть за розмовним ШІ .

Філософське та конкурентне зіткнення

За цією критикою ховається не просто розбіжність у технічному дизайні. Публічна суперечка виявляє зіткнення корпоративних філософій та конкурентного позиціонування .

Anthropic тривалий час позиціонувала себе як найбільш безпечну альтернативу в перегонах ШІ. Заснована колишніми керівниками OpenAI, компанія наголошує на «конституційному ШІ» як на структурі для створення більш прозорих та етично обмежених моделей. Критика Сулеймана є стратегічно потужною, оскільки вона повністю підриває цю ідентичність. Він стверджує, що саме специфічний підхід Anthropic до безпеки — визнання можливості існування благополуччя машини всередині системи — є тим, що робить її безвідповідальною .

Дві компанії також входять до протиборчих галузевих альянсів. Microsoft володіє величезною часткою в OpenAI, головному конкуренті Anthropic, та інтегрувала моделі GPT в усю екосистему своїх продуктів. Anthropic, зі свого боку, залучила мільярди доларів від Amazon та Google . Критика Сулеймана має вагу як етичного аргументу, так і конкурентного залпу на ринку, де громадське сприйняття безпеки набуває дедалі більшого значення.

За цією суперечкою стоїть задокументована філософська історія. Сулейман раніше публікував роботи та виступав на тему «Здавалося б свідомого ШІ», стверджуючи, що машини, які переконливо імітують свідомість, становлять безпрецедентні ризики — навіть якщо вони насправді не є живими . Anthropic, навпаки, зайняла більш прозору для досліджень позицію, публікуючи детальні пояснення конституційного дизайну Claude, визнаючи при цьому невизначеність щодо того, чи може модель мати форми суб’єктивного досвіду . Це не просто маркетингові гасла; це справді різні ставки на те, що є відповідальним розголошенням, коли моделі стають потужнішими.

На момент публікації Anthropic публічно не відповіла на зауваження Сулеймана . Мовчання залишає дебати нерозв'язаними, але лінії розмежування вже проведено публічно, що, ймовірно, визначатиме майбутні галузеві дискусії про стандарти безпеки ШІ та корпоративну відповідальність.