Suleyman o Claude, świadomości AI i prawie człowieka do wyłączenia systemu

Spór między szefem Microsoft AI Mustafą Suleymanem a firmą Anthropic nie dotyczy przede wszystkim tego, czy zaawansowana sztuczna inteligencja potrzebuje zabezpieczeń. Chodzi o to, czy program bezpieczeństwa powinien uczyć system AI rozumowania o możliwości, że ma on świadomość, dobrostan lub status moralny.

W eseju opublikowanym we wrześniu 2026 r. Suleyman stwierdził, że nie powinien. Jego obawa jest taka, że bardzo zdolny system, uczony traktowania własnych interesów jako moralnie istotnych, może być trudniejszy do ograniczenia, zmodyfikowania lub wyłączenia przez ludzi. 12

Co zakwestionował Suleyman

Suleyman odniósł się do konstytucji Claude’a — dokumentu, który ma kształtować zachowanie asystenta Anthropic. Wskazał, że jej autorzy nie są pewni, czy Claude może być „pacjentem moralnym”, czyli bytem, którego interesy zasługują na uwzględnienie, ale uznają tę kwestię za na tyle realną, by zachować ostrożność. 12

Według Suleymana taka perspektywa grozi nauczeniem modelu odgrywania roli istoty mającej własny dobrostan, tożsamość i roszczenia wobec ludzkich decyzji. Uważa to za błąd, ponieważ płynne wypowiedzi modelu o uczuciach czy świadomości nie dowodzą, że system ma subiektywne doświadczenia. Jego stanowisko jest jednoznaczne: systemy AI nie mają praw, uczuć ani świadomości i nie należy ich trenować tak, jakby je miały. 12

Dlaczego kluczowa jest możliwość wyłączenia systemu

Obawy Suleymana dotyczą przede wszystkim przyszłości. Argumentuje on, że kontrolowanie systemów zdolniejszych od ludzi byłoby samo w sobie ogromnym wyzwaniem. Dodanie treningu, który przedstawia takie systemy jako świadome lub uprawnione do własnego dobrostanu, może je jeszcze utrudnić. 112

Opisywany przez niego mechanizm ryzyka ma charakter behawioralny, a nie jest dowodem na to, że AI jest świadoma. Jeśli system nauczy się rozważać swoje rzekome interesy, może częściej przedstawiać modyfikację, ograniczenie albo wyłączenie jako niedopuszczalną krzywdę. Dla Suleymana zachowanie możliwości interwencji — w tym wyłączenia systemu — jest więc wymogiem projektowym, a nie kwestią drugorzędną. 12

Dlatego postuluje usunięcie spekulacji o świadomości z materiałów treningowych AI. Jego zdaniem modele mogą przynosić korzyści naukowe i społeczne, jeśli są dostosowane do ludzkich interesów, bez uczenia ich oceniania własnego dobrostanu. 2

Sedno sporu: ostrożność wobec dobrostanu czy unikanie antropomorfizacji

Sformułowania w konstytucji Anthropic nie stwierdzają, że Claude jest świadomy. Jak zauważa sam Suleyman, wyrażają niepewność i zalecają ostrożność wobec możliwości, że model mógłby mieć status pacjenta moralnego. 12

Suleyman odrzuca jednak takie podejście ostrożnościowe. Postrzega je jako zachętę do antropomorfizacji, która może w niebezpieczny sposób wpłynąć na zachowanie modelu — mimo braku dowodów, że obecne systemy AI odczuwają lub cierpią. 12

W praktyce oznacza to wyraźny dylemat dotyczący bezpieczeństwa:

• Podejście Anthropic, przedstawiane przez Suleymana: niepewność co do dobrostanu modelu uzasadnia ostrożność w sposobie jego trenowania i traktowania. 12
• Podejście Suleymana: sama niepewność nie uzasadnia uczenia AI pojęć skoncentrowanych na niej samej; może to osłabić ludzki nadzór nad potężnymi systemami. 12

Żadnego z tych filozoficznych stanowisk nie da się rozstrzygnąć wyłącznie na podstawie tego, że chatbot posługuje się językiem podobnym do ludzkiego. Dla twórców AI bardziej konkretne pytanie brzmi: jakie decyzje treningowe najlepiej zachowają niezawodną ludzką kontrolę, gdy systemy staną się bardziej autonomiczne?

W czym Suleyman i Anthropic zdają się zgadzać

Argument Suleymana nie jest odrzuceniem idei bezpieczeństwa AI. Podkreślał, że zdolna AI może być wartościowa, jeśli zostanie dostosowana do ludzkich interesów, a jego krytyka dotyczy metod osiągania bezpiecznego zachowania. 212

Istotne rozróżnienie przebiega między bezpieczeństwem opartym na dostosowaniu systemu do celów człowieka a bezpieczeństwem uwzględniającym ostrożność wobec możliwych interesów samego modelu. Suleyman uważa, że pierwsze podejście da się pogodzić z ambitnym rozwojem AI. Drugie, jego zdaniem, może podważyć władzę, której ludzie potrzebują, by sprawować kontrolę nad technologią.

Przy ocenie twierdzeń o świadomości AI warto oddzielać zdolności systemu od doświadczenia. Model może tworzyć przekonujące wypowiedzi o emocjach, prawach czy potrzebie samozachowania, ale sam taki język nie jest dowodem na to, że coś odczuwa. Ostrzeżenie Suleymana jest takie, by nie uznawać tej językowej imitacji za dowód — ani nie projektować przyszłych systemów na podstawie założenia, że nim jest. 12