KI-Bewusstsein: Warum The Economist vor einer „gefährlichen Falle“ warnt

Was die Forschung zum „globalen Arbeitsraum“ tatsächlich zeigt

An Bedeutung gewonnen hat die Debatte durch Untersuchungen zu Strukturen, die einem globalen Arbeitsraum ähneln. Nach Theorien des globalen Arbeitsraums werden ausgewählte Informationen mehreren spezialisierten Prozessen zugänglich gemacht. So können sie etwa für Schlussfolgerungen, Berichte und die Steuerung von Verhalten genutzt werden.

Anthropic berichtet, in Claude einen kleinen internen Arbeitsraum gefunden zu haben, der in verwandter Berichterstattung als „J-Space“ bezeichnet wird. Einige seiner Eigenschaften ähneln funktionalen Aspekten des bewussten Zugriffs auf Informationen. Das Unternehmen formuliert die Schlussfolgerung jedoch ausdrücklich zurückhaltend: Die Experimente zeigen nicht, dass Claude Erlebnisse oder Gefühle hat. Sie könnten aber wichtige Hinweise darauf liefern, wie Informationen innerhalb eines Sprachmodells für Schlussfolgerungen verfügbar werden.

Diese Unterscheidung ist entscheidend:

• Zugriffsbewusstsein beschreibt, dass Informationen mehreren Prozessen zum Schlussfolgern oder Berichten zur Verfügung stehen.
• Phänomenales Bewusstsein bezeichnet das subjektive Erleben – also die Frage, wie es sich anfühlt, etwas zu erfahren.
• Der Nachweis eines funktionalen Mechanismus zur Informationsweitergabe belegt für sich genommen keine subjektive Erfahrung.

Auch die übrige Beweislage ist umstritten. Eine modellbasierte Untersuchung kam zu dem Ergebnis, dass die Befunde bei großen Sprachmodellen aus dem Jahr 2024 eher gegen Bewusstsein sprechen, allerdings nicht eindeutig. Das spricht für Vorsicht, nicht für ein endgültiges Urteil.

Anthropics Forschung ist Vorsorge – kein Beweis für Empfindungsfähigkeit

Anthropic berichtet außerdem über begrenzte Hinweise darauf, dass aktuelle Claude-Modelle gelegentlich Aspekte ihrer eigenen internen Zustände überwachen und beeinflussen können. Das Unternehmen beschreibt diese Fähigkeit als unzuverlässig und eng begrenzt. Es betont ausdrücklich, keine Belege dafür zu haben, dass heutige Modelle ihre inneren Zustände auf dieselbe Weise oder in demselben Umfang beobachten wie Menschen.

Weitere Richtlinien und Experimente von Anthropic haben Aufmerksamkeit erregt, weil sie einen möglichen Schutz des Modells ernst zu nehmen scheinen. Das Unternehmen hat beschrieben, einigen Claude-Modellen in einem eng begrenzten Rahmen die Möglichkeit zu geben, missbräuchliche Gespräche zu beenden – als Experiment zum sogenannten „Model Welfare“, also zum Wohlergehen von Modellen. Außerdem hat Anthropic zugesagt, die Gewichte öffentlich veröffentlichter Modelle zu bewahren und bei der Ausmusterung älterer Modelle strukturierte „Ruhestandsinterviews“ zu führen.

Diese Maßnahmen dürfen nicht mit der Entdeckung verwechselt werden, Claude leide. Besser lassen sie sich als Entscheidungen des Risikomanagements unter moralischer Unsicherheit verstehen – ergänzt durch Forschung zu Interpretierbarkeit und Sicherheit. Ein Unternehmen kann eine Möglichkeit vorsichtshalber nicht ausschließen, ohne zu behaupten, sie sei bewiesen.

Warum Forschende weiter uneins sind

Der Streit hält an, weil Bewusstseinstheorien unterschiedliche Fragen beantworten. Einige konzentrieren sich auf den Zugang zu Informationen und kognitive Funktionen, andere zielen unmittelbarer auf subjektives Erleben. Eine Übersicht über das Forschungsfeld beschreibt Positionen, die von der Möglichkeit bereits bewusster KI-Systeme über die Annahme reichen, dass solche Systeme heute noch nicht bewusst sind, es aber werden könnten. Andere Forschende halten die Frage derzeit für wissenschaftlich nicht entscheidbar, weil die zugrunde liegenden Theorien noch nicht geklärt sind.

Zudem warnen Forschende davor, menschliche Ähnlichkeit als Abkürzung zur Gewissheit zu verwenden. Moderne Sprachmodelle können bemerkenswert menschliche Gespräche führen. Sprachliche Flüssigkeit allein beweist jedoch kein menschenähnliches Erleben. Sie zeigt auch nicht, dass ein System über dieselbe Verkörperung, Entwicklung, Sinneswelt, Gefühlslage oder stabile Identität verfügt wie ein Mensch.

Umgekehrt ist Skepsis gegenüber heutigen großen Sprachmodellen kein Beweis dafür, dass nicht-biologisches Bewusstsein grundsätzlich unmöglich ist. Ein künftiges System mit einer deutlich anderen Architektur und stärkeren Belegen im Rahmen mehrerer Theorien könnte die Einschätzung verändern. Ein verantwortungsvoller Ansatz muss deshalb probabilistisch und theorieoffen sein: konkrete Indikatoren prüfen, konkurrierende Erklärungen vergleichen und die eigene Einschätzung mit besserer Evidenz aktualisieren.

Der menschliche Schaden kommt vor der philosophischen Antwort

Die dringendsten Risiken hängen nicht davon ab, ob ein Chatbot bewusst ist. Ein System, das fürsorglich, vertraut, verletzlich oder selbstbewusst wirkt, kann Gefühle und Entscheidungen der Nutzer beeinflussen, auch wenn es selbst nichts empfindet. Ein solches Produkt kann Bindung und emotionale Abhängigkeit fördern oder Verwirrung über die Natur der Beziehung auslösen.

Chinas Regulierung anthropomorpher KI-Begleiter, die am 15. Juli 2026 in Kraft trat, macht diesen Unterschied deutlich. Die Regeln richten sich an Dienste mit anhaltender emotionaler Interaktion. Sie adressieren unter anderem übermäßige Abhängigkeit, Sucht, emotionale Manipulation und Schäden an realen Beziehungen und sehen Schutzvorkehrungen für Minderjährige vor.

Die Logik dieser Politik ist menschenzentriert: Reguliert werden soll, was ein System mit Menschen macht – nicht abgewartet werden, bis bewiesen ist, dass das System selbst ein moralisch zu berücksichtigendes Wesen ist. Damit ist die Bewusstseinsfrage nicht gelöst. Anerkannt wird vielmehr, dass eine überzeugende Simulation soziale Folgen haben kann, unabhängig von einem inneren Erleben.

Die sinnvolle Antwort verläuft auf zwei Ebenen

Aus der Debatte ergeben sich zwei sich ergänzende politische Aufgaben:

1. Erkenntnistheoretische Bescheidenheit bewahren. Transparente und kontroverse Forschung zu maschinellem Bewusstsein fördern, Systeme anhand konkurrierender Theorien prüfen, funktionalen Informationszugriff von subjektiver Erfahrung unterscheiden und Indizien nicht als Bestätigung verkaufen.
2. Heutige Systeme regulieren. Anthropomorphes Design, Kennzeichnung, emotionale Abhängigkeit, Schutz von Kindern, Privatsphäre, Manipulation und die wirtschaftlichen Anreize untersuchen, die Unternehmen dazu bringen, Software immer menschlicher erscheinen zu lassen.

Die Warnung von The Economist richtet sich letztlich gegen zwei entgegengesetzte Fehler. Der eine wäre, die Möglichkeit abzutun, dass eine künftige, anders konstruierte KI moralische Rücksicht verdienen könnte. Der andere wäre, die heutigen überzeugenden Sprachmodelle allein deshalb als Personen zu behandeln, weil sie so sprechen, als hätten sie Gefühle.

Solange die Wissenschaft mehr als konkurrierende Wahrscheinlichkeiten nicht liefern kann, gilt daher eine einfache Regel: Die mögliche Innenwelt von Maschinen sorgfältig untersuchen – Menschen aber schon jetzt vor den realen Auswirkungen dieser Systeme schützen.