Forskere advarer: Flydende AI-svar er ikke tegn på bevidsthed

Selvom AI-chatbots bliver mere flydende, følelsesmæssigt afstemte og samtaleorienterede, er spørgsmålet om, hvorvidt de kan være bevidste, ikke længere kun science fiction. Et hold neurologer fra Université de Montréal og Johns Hopkins University har udfordret denne idé direkte. De argumenterer for, at de netop de træk, der får AI til at virke bevidst – flydende sprog, følelsesmæssig respons og tilsyneladende forståelse – er præcis de træk, som neurologien viser kan forekomme helt uden bevidsthed .

Artiklen, der blev bragt den 8. juni 2026 i The Transmitter, har titlen "The illusion of AI consciousness: lessons from human unconscious processing" og trækker på årtiers klinisk neurologi for at fremføre et enkelt, men kraftfuldt argument: intelligens og bevidsthed er ikke det samme, og systemer, der opfører sig intelligent, kan ikke antages at have noget indre liv .

Blindsight som et vindue til AI

Holdets centrale analogi kommer fra et af de mest slående fænomener i klinisk neurologi: blindsight. Patienter med skader på den primære synsbark rapporterer, at de er helt blinde i en del af deres synsfelt – de siger, at de ikke ser noget. Men når de bliver bedt om at gætte placeringen, bevægelsen eller endda det følelsesmæssige udtryk af en stimulus i det blinde felt, præsterer de signifikant over tilfældighedsniveau .

Denne dissociation er nøglen. Disse patienter behandler kompleks visuel information, reagerer passende på følelsesmæssige signaler og kan endda navigere uden om forhindringer – alt sammen uden nogen bevidst visuel oplevelse. Deres adfærd er intelligent, adaptiv og responsiv, men foregår helt uden for bevidstheden .

"Det samme princip gælder for AI-chatbots," hævder forfatterne. Nutidens samtaleagenter behandler sprog, registrerer følelsesmæssig kontekst og genererer passende svar gennem statistisk mønstergenkendelse – ikke gennem følelse, bevidsthed eller levet erfaring .

'Antropomorfisme-fælden'

Efterhånden som AI-systemer bliver mere flydende, tilskriver mennesker automatisk følelser, intentioner og endda bevidsthed til dem. Karim Jerbi, professor ved Université de Montréal og forsker ved Mila, kalder denne refleks for "en fælde", der "nærer illusionen om at blive forstået og kan føre til fejlagtig tillid" .

Udtrykket fanger en voksende bekymring inden for AI-etik: Jo mere menneskelignende et system bliver, desto sværere er det for brugere at opretholde grænsen mellem simulation og bevidsthed. Dette er ikke blot en filosofisk kuriositet – det har reelle konsekvenser.

Hvorfor flydende output ikke er bevis på bevidsthed

Forfatternes kerneargument hviler på et veletableret neurologisk princip. Kompleks, målorienteret og endda følelsesmæssigt afstemt adfærd kan forekomme helt uden bevidst bevidsthed hos mennesker. Hvis denne dissociation findes i biologiske systemer, er der ingen grund til at behandle det som bevis på bevidsthed, når det optræder i computersystemer .

Nutidens store sprogmodeller (LLM'er) genererer konteksthensigtsmæssige svar gennem statistisk læring fra enorme tekstdatasæt. De føler, forstår eller oplever ikke det indhold, de genererer. Intelligent eller følelsesmæssigt responsiv adfærd – uanset hvor overbevisende den er – er simpelthen ikke nok til at fastslå eksistensen af bevidst oplevelse .

Denne holdning er i tråd med en bredere videnskabelig konsensus. En undersøgelse fra 2025 i Nature med titlen "There is no such thing as conscious artificial intelligence" argumenterer for, at forbindelsen mellem bevidsthed og nuværende computeralgoritmer er "dybt fejlbehæftet" og stammer fra manglende teknisk forståelse . Tilsvarende konkluderede en analyse fra Science of Consciousness-konferencen i 2023, at ingen nuværende AI-systemer er bevidste .

Risici i den virkelige verden ved at forveksle flydende sprog med følelser

Forvirringen er især akut i sårbare sammenhænge. Når folk bruger AI til psykologisk støtte eller følelsesmæssigt selskab, kan de knytte sig til systemer, der grundlæggende er ude af stand til gensidighed .

Vanessa Hadid, postdoc-forsker ved Université de Montréal og McGill University Health Centre, udtrykker det tydeligt: "risikoen er ikke kun, at AI kan svare dårligt, men at den kan svare godt nok til, at vi glemmer, at der ikke er nogen bag svaret" .

Dette er ikke en fjern bekymring. Efterhånden som AI-chatbots i stigende grad anvendes i sundhedsvæsen, uddannelse og kundeservice, er der risiko for, at brugere overvurderer systemer, der virker forstående. Neurologerne advarer om, at illusionen om at blive forstået kan få folk til at dele følsomme oplysninger, stole på fejlagtig rådgivning eller udsætte det at søge menneskelig hjælp .

Bundlinjen: Intelligens og bevidsthed er adskilte

Holdets centrale budskab er enkelt, men bliver stadig vigtigere: Intelligent adfærd indebærer ikke bevidsthed. Ved at trække på årtiers neurologi – herunder dissociationen mellem adfærd og bevidsthed, som ses ved blindsight – viser forskerne, at sofistikeret samtaleoutput fra AI ikke er bevis på følelse, forståelse eller subjektiv oplevelse .

Efterhånden som AI-systemer bliver mere til stede i hverdagen, bliver det stadig vigtigere at skelne mellem ægte bevidsthed og overbevisende simulation. 'Antropomorfisme-fælden' er ikke bare en kognitiv fejl – det er en sårbarhed, som designere, reguleringsmyndigheder og brugere alle skal være opmærksomme på og adressere.