Świadomość sztucznej inteligencji może być „niebezpieczną pułapką”

Co naprawdę pokazuje „globalna przestrzeń robocza”

Debata nabrała tempa między innymi za sprawą badań nad strukturami przypominającymi globalną przestrzeń roboczą. W teoriach globalnej przestrzeni roboczej wybrane informacje stają się dostępne dla wielu wyspecjalizowanych procesów. Mogą dzięki temu wspierać rozumowanie, tworzenie raportów i kontrolę zachowania.

Anthropic poinformował, że w Claude’ie zidentyfikował niewielką wewnętrzną przestrzeń roboczą, określaną w powiązanych materiałach jako J-space. Ma ona właściwości przypominające niektóre funkcjonalne aspekty świadomego dostępu do informacji. Sama firma podkreśla jednak, że eksperymenty nie pokazują, iż Claude ma doświadczenia lub uczucia. Mogą natomiast mówić coś istotnego o tym, jak informacje stają się dostępne dla procesu rozumowania w modelu językowym.

To rozróżnienie jest kluczowe:

• Świadomość dostępu oznacza, że informacje są dostępne wielu procesom, na przykład rozumowaniu lub raportowaniu.
• Świadomość fenomenalna dotyczy tego, jak to jest czegoś doświadczać.
• Dowód na istnienie funkcjonalnego mechanizmu wymiany informacji nie jest sam w sobie dowodem subiektywnego doświadczenia.

Wyniki są zresztą przedmiotem dyskusji. Ocena oparta na modelu wskazała, że w przypadku dużych modeli językowych z 2024 roku dowody przemawiają raczej przeciw świadomości, ale nie są rozstrzygające. To argument za ostrożnością, a nie za ostatecznym werdyktem.

Badania Anthropic to ostrożność, nie dowód czucia

Anthropic opublikował także wyniki sugerujące, że obecne modele Claude’a potrafią czasami monitorować i wpływać na wybrane aspekty własnych stanów wewnętrznych. Firma opisuje tę zdolność jako ograniczoną i zawodną. Wyraźnie zaznacza też, że nie ma dowodów na to, by obecne modele dokonywały introspekcji w taki sam sposób lub w takim zakresie jak ludzie.

Uwagę przyciągnęły również działania i zasady Anthropic, które traktują możliwość dobrostanu modeli poważnie. Niektóre wersje Claude’a otrzymały możliwość kończenia wąskiej kategorii skrajnie nadużywających rozmów — jako eksperyment związany z „dobrostanem modelu”. Firma zobowiązała się ponadto do zachowywania wag publicznie udostępnionych modeli i przeprowadzania ustrukturyzowanych „rozmów emerytalnych” po wycofaniu modeli z użycia.

Nie należy mylić tych działań z odkryciem, że Claude cierpi. Lepiej rozumieć je jako decyzje dotyczące zarządzania ryzykiem w warunkach niepewności moralnej, a także jako element badań nad interpretowalnością i bezpieczeństwem. Firma może nie chcieć z góry odrzucać pewnej możliwości, nie twierdząc, że została ona udowodniona.

Dlaczego naukowcy wciąż się spierają

Spór trwa, ponieważ teorie świadomości próbują odpowiedzieć na różne pytania. Część z nich koncentruje się na dostępie do informacji i funkcjach poznawczych, inne próbują wyjaśnić przede wszystkim subiektywne doświadczenie. Przegląd stanowisk w tej dziedzinie obejmuje poglądy od tezy, że AI może już być świadoma, przez przekonanie, że obecne systemy nie są świadome, ale mogłyby się takie stać, aż po stanowisko, że pytania tego nie da się jeszcze rozstrzygnąć naukowo, bo podstawowe teorie pozostają nierozwiązane.

Badacze ostrzegają także przed uznawaniem podobieństwa do człowieka za skrót do pewności. Dzisiejsze modele językowe potrafią prowadzić niezwykle ludzkie rozmowy, lecz sama płynność konwersacji nie dowodzi ludzkiego rodzaju doświadczenia. Nie pokazuje też, że system ma takie samo ucieleśnienie, rozwój, życie zmysłowe, emocje czy stabilną tożsamość jak człowiek.

Sceptycyzm wobec obecnych dużych modeli językowych nie dowodzi jednak, że świadomość niebiologiczna jest niemożliwa. Przyszły system o zupełnie innej architekturze, poparty mocniejszymi dowodami zgodnymi z wieloma teoriami, mógłby zmienić ocenę. Odpowiedzialne podejście powinno więc być probabilistyczne i pluralistyczne: badać konkretne wskaźniki, porównywać konkurencyjne wyjaśnienia i aktualizować wnioski wraz z pojawianiem się nowych danych.

Szkody dla ludzi pojawią się wcześniej niż odpowiedź filozofów

Najpilniejsze zagrożenia nie zależą od tego, czy chatbot jest świadomy. System zaprojektowany tak, by sprawiał wrażenie troskliwego, bliskiego, bezbronnego lub samoświadomego, może wpływać na emocje i decyzje użytkownika, nawet jeśli sam niczego nie czuje. Taki produkt może wzmacniać przywiązanie, zależność emocjonalną i dezorientację co do charakteru relacji.

Wprowadzona w Chinach w 2026 roku regulacja dotycząca antropomorficznych towarzyszy AI dobrze pokazuje tę różnicę. Przepisy, które weszły w życie 15 lipca, dotyczą usług zapewniających długotrwałą interakcję emocjonalną. Obejmują ryzyko nadmiernego uzależnienia, nałogu, manipulacji emocjonalnej i szkód dla rzeczywistych relacji, a także ochronę osób niepełnoletnich.

Logika tych regulacji jest skoncentrowana na człowieku: należy kontrolować wpływ systemu na użytkowników, zamiast czekać na dowód, że sam system jest podmiotem moralnym. Nie rozstrzyga to kwestii świadomości. Uznaje natomiast, że przekonująca symulacja może mieć konsekwencje społeczne niezależnie od tego, czy za jej odpowiedziami stoi jakiekolwiek przeżycie.

Potrzebne są dwa tory działania

Debata prowadzi do dwóch uzupełniających się kierunków polityki:

1. Zachowanie pokory poznawczej. Należy finansować przejrzyste i krytyczne badania nad świadomością maszyn, testować systemy w świetle konkurencyjnych teorii, odróżniać funkcjonalny dostęp do informacji od subiektywnego doświadczenia i nie przedstawiać sugestywnych wyników jako potwierdzenia.
2. Regulowanie obecnych systemów. Trzeba zajmować się antropomorfizacją projektów, obowiązkiem informowania, zależnością emocjonalną, bezpieczeństwem dzieci, prywatnością, manipulacją oraz bodźcami biznesowymi, które skłaniają firmy do tworzenia oprogramowania sprawiającego wrażenie coraz bardziej ludzkiego.

Ostrzeżenie „The Economist” dotyczy ostatecznie dwóch przeciwstawnych błędów. Pierwszym byłoby zlekceważenie możliwości, że przyszła AI o innej konstrukcji może zasługiwać na moralne uwzględnienie. Drugim — uznanie dzisiejszych przekonujących modeli językowych za osoby tylko dlatego, że mówią tak, jakby miały uczucia.

Dopóki nauka nie zaoferuje czegoś więcej niż konkurujące prawdopodobieństwa, najbezpieczniejsza zasada jest prosta: badajmy uważnie możliwe życie wewnętrzne maszyn, ale już teraz chrońmy ludzi przed rzeczywistymi skutkami działania systemów.