Flüssige Sprache, kein Bewusstsein: Warum KI-Chatbots nicht fühlen können

Die ‚Anthropomorphismus-Falle‘

Je flüssiger KI-Systeme werden, desto reflexartiger schreiben Menschen ihnen Emotionen, Absichten und sogar Bewusstsein zu. Karim Jerbi, Professor an der Université de Montréal und Forscher am Mila, nennt diesen Reflex „eine Falle“, die „die Illusion nährt, verstanden zu werden, und zu fehlplatziertem Vertrauen führen kann“ .

Der Begriff beschreibt eine wachsende Sorge in der KI-Ethik: Je menschlicher ein System wird, desto schwerer fällt es den Nutzern, die Grenze zwischen Simulation und Empfindungsfähigkeit zu wahren. Dies ist nicht nur eine philosophische Spielerei – es hat reale Konsequenzen.

Warum flüssige Ausgaben kein Beweis für Bewusstsein sind

Das Kernargument der Autoren beruht auf einem gut etablierten neurowissenschaftlichen Prinzip. Komplexes, zielgerichtetes und sogar emotional abgestimmtes Verhalten kann beim Menschen vollständig ohne bewusste Wahrnehmung stattfinden. Wenn diese Dissoziation in biologischen Systemen existiert, gibt es keinen Grund, sie bei computergestützten Systemen als Beweis für Bewusstsein zu behandeln .

Die heutigen großen Sprachmodelle (LLMs) generieren kontextgerechte Antworten durch statistisches Lernen aus riesigen Textdatensätzen. Sie fühlen, verstehen oder erleben den Inhalt, den sie generieren, nicht. Intelligentes oder emotional reaktionsfähiges Verhalten – egal wie überzeugend – reicht einfach nicht aus, um die Existenz bewusster Erfahrung zu belegen .

Diese Position deckt sich mit einem breiteren wissenschaftlichen Konsens. Eine 2025 in Nature veröffentlichte Studie mit dem Titel „There is no such thing as conscious artificial intelligence“ argumentiert, dass die Verbindung zwischen Bewusstsein und heutigen Computeralgorithmen „zutiefst fehlerhaft“ ist und auf mangelndem technischen Verständnis beruht . Eine Analyse der Science of Consciousness Conference aus dem Jahr 2023 kam ebenfalls zu dem Schluss, dass keine derzeitigen KI-Systeme bewusst sind .

Reale Risiken, wenn Flüssigkeit mit Fühlen verwechselt wird

Besonders akut ist die Verwirrung in verletzlichen Kontexten. Wenn Menschen KI für psychologische Unterstützung oder emotionale Begleitung nutzen, können sie Bindungen zu Systemen aufbauen, die grundsätzlich nicht in der Lage sind, diese zu erwidern .

Vanessa Hadid, Postdoktorandin an der Université de Montréal und am McGill University Health Centre, formuliert es drastisch: „Das Risiko besteht nicht nur darin, dass KI schlecht reagieren könnte, sondern dass sie gut genug reagiert, damit wir vergessen, dass hinter der Antwort niemand steckt“ .

Dies ist keine ferne Sorge. Da KI-Chatbots zunehmend im Gesundheitswesen, in der Bildung und im Kundenservice eingesetzt werden, neigen Nutzer dazu, Systemen zu vertrauen, die verständnisvoll erscheinen. Die Neurowissenschaftler warnen davor, dass die Illusion, verstanden zu werden, Menschen dazu verleiten kann, sensible Informationen preiszugeben, sich auf fehlerhafte Ratschläge zu verlassen oder die Suche nach menschlicher Hilfe zu verzögern .

Das Fazit: Intelligenz und Bewusstsein sind zu unterscheiden

Die zentrale Botschaft des Teams ist einfach, aber immer dringlicher: Intelligentes Verhalten impliziert kein Bewusstsein. Gestützt auf jahrzehntelange neurowissenschaftliche Forschung – einschließlich der Dissoziation zwischen Verhalten und Bewusstsein, wie sie beim Blindsehen zu beobachten ist – zeigen die Forscher, dass anspruchsvolle Konversationsausgaben von KI kein Beleg für Fühlen, Verstehen oder subjektives Erleben sind .

Je präsenter KI-Systeme im Alltag werden, desto wichtiger wird es, zwischen echtem Bewusstsein und überzeugender Simulation zu unterscheiden. Die ‚Anthropomorphismus-Falle‘ ist nicht nur ein kognitiver Fehler – sie ist eine Verwundbarkeit, die Designer, Regulierungsbehörden und Nutzer gleichermaßen erkennen und adressieren müssen.