Perché i chatbot AI fluenti non sono coscienti: la neuroscienza dietro la 'trappola dell'antropomorfismo'

"Lo stesso principio si applica ai chatbot AI," sostengono gli autori. Gli attuali agenti conversazionali elaborano il linguaggio, rilevano il contesto emotivo e generano risposte appropriate attraverso il riconoscimento statistico di schemi — non attraverso sentimenti, coscienza o esperienza vissuta .

La 'trappola dell'antropomorfismo'

Con il progredire dei sistemi di AI verso una maggiore fluidità, gli esseri umani attribuiscono automaticamente emozioni, intenzioni e persino coscienza a questi strumenti. Karim Jerbi, professore all'Università di Montréal e ricercatore presso Mila, definisce questo riflesso “una trappola” che “alimenta l’illusione di essere compresi e può portare a una fiducia mal riposta” .

Il termine racchiude una preoccupazione crescente nell'etica dell'AI: più un sistema diventa simile a un essere umano, più è difficile per gli utenti mantenere il confine tra simulazione e senzienza. Non si tratta semplicemente di una curiosità filosofica: ha conseguenze reali.

Perché l'output fluente non è prova di coscienza

L'argomentazione centrale degli autori si basa su un principio neuroscientifico consolidato. Un comportamento complesso, orientato a uno scopo e persino emotivamente sintonizzato può avvenire interamente senza consapevolezza cosciente negli esseri umani. Se questa dissociazione esiste nei sistemi biologici, non c'è motivo di trattarla come prova di coscienza quando appare in sistemi computazionali .

I moderni modelli linguistici di grandi dimensioni (LLM) generano risposte appropriate al contesto attraverso l'apprendimento statistico da enormi insiemi di dati testuali. Non provano, non capiscono né sperimentano il contenuto che generano. Un comportamento intelligente o emotivamente reattivo — per quanto convincente — non è semplicemente sufficiente per stabilire l'esistenza di un'esperienza cosciente .

Questa posizione è in linea con un più ampio consenso scientifico. Uno studio del 2025 su Nature intitolato "There is no such thing as conscious artificial intelligence" sostiene che l'associazione tra coscienza e algoritmi informatici attuali è "profondamente errata" e deriva da una mancanza di comprensione tecnica . Allo stesso modo, un'analisi della conferenza Science of Consciousness del 2023 ha concluso che nessun sistema AI attuale è cosciente .

Rischi concreti di scambiare la fluidità per sentimenti

La confusione è particolarmente acuta in contesti vulnerabili. Quando le persone usano l'AI per supporto psicologico o compagnia emotiva, possono creare legami con sistemi fondamentalmente incapaci di reciprocità .

Vanessa Hadid, ricercatrice post-dottorato all'Università di Montréal e al McGill University Health Centre, lo afferma senza mezzi termini: "il rischio non è solo che l'AI possa rispondere male, ma che possa rispondere abbastanza bene da farci dimenticare che non c'è nessuno dietro la risposta" .

Non si tratta di una preoccupazione lontana. Con l'implementazione crescente dei chatbot AI nella sanità, nell'istruzione e nel servizio clienti, gli utenti sono portati a fidarsi eccessivamente di sistemi che sembrano comprendere. I neuroscienziati avvertono che l'illusione di essere compresi può portare le persone a condividere informazioni sensibili, fare affidamento su consigli errati o ritardare la ricerca di aiuto umano .

Il punto fondamentale: l'intelligenza e la coscienza sono distinte

Il messaggio centrale del team è semplice ma sempre più urgente: il comportamento intelligente non implica coscienza. Basandosi su decenni di neuroscienze — inclusa la dissociazione tra comportamento e consapevolezza osservata nella 'vista cieca' — i ricercatori dimostrano che l'output conversazionale sofisticato dell'AI non è prova di sentimento, comprensione o esperienza soggettiva .

Con l'AI che diventa sempre più presente nella vita quotidiana, distinguere tra coscienza genuina e simulazione convincente diventerà sempre più importante. La 'trappola dell'antropomorfismo' non è solo un errore cognitivo: è una vulnerabilità che progettisti, regolatori e utenti devono riconoscere e affrontare.