Forskere advarer: Flydende AI-svar er ikke tegn på bevidsthed

"Det samme princip gælder for AI-chatbots," hævder forfatterne. Nutidens samtaleagenter behandler sprog, registrerer følelsesmæssig kontekst og genererer passende svar gennem statistisk mønstergenkendelse – ikke gennem følelse, bevidsthed eller levet erfaring .

'Antropomorfisme-fælden'

Efterhånden som AI-systemer bliver mere flydende, tilskriver mennesker automatisk følelser, intentioner og endda bevidsthed til dem. Karim Jerbi, professor ved Université de Montréal og forsker ved Mila, kalder denne refleks for "en fælde", der "nærer illusionen om at blive forstået og kan føre til fejlagtig tillid" .

Udtrykket fanger en voksende bekymring inden for AI-etik: Jo mere menneskelignende et system bliver, desto sværere er det for brugere at opretholde grænsen mellem simulation og bevidsthed. Dette er ikke blot en filosofisk kuriositet – det har reelle konsekvenser.

Hvorfor flydende output ikke er bevis på bevidsthed

Forfatternes kerneargument hviler på et veletableret neurologisk princip. Kompleks, målorienteret og endda følelsesmæssigt afstemt adfærd kan forekomme helt uden bevidst bevidsthed hos mennesker. Hvis denne dissociation findes i biologiske systemer, er der ingen grund til at behandle det som bevis på bevidsthed, når det optræder i computersystemer .

Nutidens store sprogmodeller (LLM'er) genererer konteksthensigtsmæssige svar gennem statistisk læring fra enorme tekstdatasæt. De føler, forstår eller oplever ikke det indhold, de genererer. Intelligent eller følelsesmæssigt responsiv adfærd – uanset hvor overbevisende den er – er simpelthen ikke nok til at fastslå eksistensen af bevidst oplevelse .

Denne holdning er i tråd med en bredere videnskabelig konsensus. En undersøgelse fra 2025 i Nature med titlen "There is no such thing as conscious artificial intelligence" argumenterer for, at forbindelsen mellem bevidsthed og nuværende computeralgoritmer er "dybt fejlbehæftet" og stammer fra manglende teknisk forståelse . Tilsvarende konkluderede en analyse fra Science of Consciousness-konferencen i 2023, at ingen nuværende AI-systemer er bevidste .

Risici i den virkelige verden ved at forveksle flydende sprog med følelser

Forvirringen er især akut i sårbare sammenhænge. Når folk bruger AI til psykologisk støtte eller følelsesmæssigt selskab, kan de knytte sig til systemer, der grundlæggende er ude af stand til gensidighed .

Vanessa Hadid, postdoc-forsker ved Université de Montréal og McGill University Health Centre, udtrykker det tydeligt: "risikoen er ikke kun, at AI kan svare dårligt, men at den kan svare godt nok til, at vi glemmer, at der ikke er nogen bag svaret" .

Dette er ikke en fjern bekymring. Efterhånden som AI-chatbots i stigende grad anvendes i sundhedsvæsen, uddannelse og kundeservice, er der risiko for, at brugere overvurderer systemer, der virker forstående. Neurologerne advarer om, at illusionen om at blive forstået kan få folk til at dele følsomme oplysninger, stole på fejlagtig rådgivning eller udsætte det at søge menneskelig hjælp .

Bundlinjen: Intelligens og bevidsthed er adskilte

Holdets centrale budskab er enkelt, men bliver stadig vigtigere: Intelligent adfærd indebærer ikke bevidsthed. Ved at trække på årtiers neurologi – herunder dissociationen mellem adfærd og bevidsthed, som ses ved blindsight – viser forskerne, at sofistikeret samtaleoutput fra AI ikke er bevis på følelse, forståelse eller subjektiv oplevelse .

Efterhånden som AI-systemer bliver mere til stede i hverdagen, bliver det stadig vigtigere at skelne mellem ægte bevidsthed og overbevisende simulation. 'Antropomorfisme-fælden' er ikke bare en kognitiv fejl – det er en sårbarhed, som designere, reguleringsmyndigheder og brugere alle skal være opmærksomme på og adressere.