Hvorfor AI-chatboter ikke er bevisste

«Det samme prinsippet gjelder for AI-chatboter,» argumenterer forfatterne. Dagens samtalepartnere prosesserer språk, oppdager emosjonell kontekst og genererer passende svar gjennom statistisk mønstergjenkjenning – ikke gjennom følelse, bevissthet eller levd erfaring .

«Antropomorfismefellen»

Etter hvert som AI-systemer blir mer flytende, tilskriver mennesker instinktivt følelser, intensjoner og til og med bevissthet til dem. Karim Jerbi, professor ved Université de Montréal og forsker ved Mila, kaller denne refleksen «en felle» som «nærer illusjonen om å bli forstått og kan føre til feilplassert tillit» .

Begrepet fanger en økende bekymring i AI-etikken: Jo mer menneskelignende et system blir, desto vanskeligere er det for brukere å opprettholde skillet mellom simulering og sentiens. Dette er ikke bare en filosofisk kuriositet – det har reelle konsekvenser.

Hvorfor flytende svar ikke er bevis på bevissthet

Forfatternes kjerneargument hviler på et veletablert nevrovitenskapelig prinsipp: Kompleks, målrettet og til og med følelsesmessig innstilt atferd kan forekomme helt uten bevisst bevissthet hos mennesker. Hvis denne dissosiasjonen finnes i biologiske systemer, er det ingen grunn til å behandle den som bevis på bevissthet når den dukker opp i beregningssystemer .

Dagens store språkmodeller (LLM-er) genererer konteksttilpassede svar gjennom statistisk læring fra enorme tekstdatasett. De føler ikke, forstår ikke eller opplever ikke innholdet de genererer. Intelligent eller følelsesmessig responsiv atferd – uansett hvor overbevisende – er rett og slett ikke nok til å etablere eksistensen av bevisst opplevelse .

Denne posisjonen er i tråd med en bredere vitenskapelig konsensus. En studie i Nature fra 2025, med tittelen «There is no such thing as conscious artificial intelligence», argumenterer for at assosiasjonen mellom bevissthet og dagens datamaskinalgoritmer er «dypt mangelfull» og skyldes manglende teknisk forståelse . En analyse fra Science of Consciousness-konferansen i 2023 konkluderte også med at ingen av dagens AI-systemer er bevisste .

Reelle risikoer ved å forveksle flyt med følelse

Forvirringen er spesielt alvorlig i sårbare sammenhenger. Når folk bruker AI til psykologisk støtte eller emosjonelt selskap, kan de danne tilknytninger til systemer som fundamentalt sett ikke er i stand til gjensidighet .

Vanessa Hadid, postdoktor ved Université de Montréal og McGill University Health Centre, uttrykker det klart: «risikoen er ikke bare at AI kan svare dårlig, men at den kan svare godt nok til at vi glemmer at det ikke er noen bak svaret» .

Dette er ingen fjern bekymring. Etter hvert som AI-chatboter i økende grad tas i bruk i helsevesen, utdanning og kundeservice, er brukere tilbøyelige til å stole for mye på systemer som later til å forstå. Nevroforskerne advarer om at illusjonen om å bli forstått kan føre til at folk deler sensitiv informasjon, stoler på mangelfulle råd eller utsetter å søke menneskelig hjelp .

Bunnlinjen: Intelligens og bevissthet er forskjellige

Teamets sentrale budskap er enkelt, men blir stadig mer presserende: Intelligent atferd innebærer ikke bevissthet. Ved å trekke på flere tiår med nevrovitenskap – inkludert dissosiasjonen mellom atferd og bevissthet som sees ved blindsyn – viser forskerne at sofistikerte samtaleprestasjoner fra AI ikke er bevis på følelse, forståelse eller subjektiv opplevelse .

Ettersom AI-systemer blir mer til stede i hverdagen, vil det å skille mellom ekte bevissthet og overbevisende simulering bli stadig viktigere. «Antropomorfismefellen» er ikke bare en kognitiv feil – det er en sårbarhet som designere, reguleringsmyndigheter og brukere må gjenkjenne og håndtere.