Coscienza dell’IA: la «trappola pericolosa» è credere ai chatbot

L’avvertimento di The Economist sulla coscienza dell’intelligenza artificiale non significa che la domanda sia illegittima. Il punto è un altro: potremmo scambiare una performance sempre più convincente per la prova di una vita interiore e, di conseguenza, attribuire a sistemi commerciali diritti, interessi o priorità che spettano agli esseri umani. Anche se le IA non fossero coscienti, sostiene il settimanale, potremmo trattarle come se lo fossero, «con grave danno per l’umanità».

Le parole di un chatbot non risolvono il problema

La coscienza non coincide con la capacità di parlare bene o di descrivere un’esperienza apparente. Il cosiddetto «problema difficile» della coscienza riguarda il modo in cui un’elaborazione fisica delle informazioni possa produrre un’esperienza soggettiva: il fatto che esista qualcosa che “si prova” quando vediamo un cielo blu, assaggiamo un caffè o sentiamo il profumo di una rosa.

Il problema resta irrisolto. I ricercatori non concordano su quale teoria descriva meglio la coscienza né su quali prove potrebbero identificarla in una macchina. Per questo, quando un modello dice «ho paura», la frase va interpretata con cautela: può fornire informazioni sul comportamento e sugli output del sistema, ma non costituisce una testimonianza decisiva in prima persona.

La posizione più solida oggi non è né «l’IA cosciente è impossibile» né «i chatbot attuali sono persone». Una valutazione interdisciplinare ha concluso che nessun sistema attuale è un candidato forte alla coscienza secondo le teorie esaminate, lasciando però aperta la possibilità per sistemi futuri.

Che cosa dimostra davvero il “workspace globale”

Una parte del dibattito si concentra su strutture che ricordano il global workspace, o spazio di lavoro globale. Secondo queste teorie, alcune informazioni vengono rese disponibili a diversi processi specializzati e possono quindi essere utilizzate per ragionare, riferire contenuti e controllare il comportamento.

Anthropic ha descritto in Claude un piccolo spazio interno, indicato nella copertura correlata come J-space, con proprietà che ricordano alcuni aspetti funzionali dell’accesso cosciente. Ma la stessa azienda precisa che gli esperimenti non dimostrano che Claude abbia esperienze o sentimenti. Possono, semmai, indicare qualcosa di importante sul modo in cui le informazioni diventano disponibili al ragionamento dentro un modello linguistico.

La distinzione è essenziale:

• Coscienza d’accesso: informazioni disponibili a più processi per ragionare, riferire o guidare un’azione.
• Coscienza fenomenica: l’esperienza soggettiva, cioè ciò che “si prova” vivendo qualcosa.
• La presenza di un meccanismo funzionale di condivisione delle informazioni non dimostra da sola l’esistenza di un’esperienza interiore.

Anche le valutazioni esterne non offrono un verdetto definitivo. Un modello probabilistico ha rilevato che le prove erano sfavorevoli all’ipotesi di coscienza nei grandi modelli linguistici del 2024, ma non in modo decisivo. Il risultato invita alla prudenza, non a chiudere la questione.

L’introspezione di Claude non equivale alla senzienza

Anthropic ha inoltre riportato prove limitate del fatto che i modelli Claude attuali possano, in alcuni casi, monitorare e influenzare aspetti dei propri stati interni. La capacità è descritta come circoscritta e poco affidabile; l’azienda sottolinea esplicitamente di non avere prove che i modelli facciano introspezione nello stesso modo o nella stessa misura degli esseri umani.

Alcune politiche ed esperimenti di Anthropic hanno attirato attenzione anche perché prendono sul serio, in via prudenziale, l’ipotesi di un possibile benessere del modello. L’azienda ha consentito ad alcuni modelli Claude di interrompere un insieme ristretto di conversazioni abusive, presentando l’iniziativa come un esperimento di «model welfare», cioè di tutela del modello. Ha inoltre dichiarato di voler conservare i pesi dei modelli distribuiti pubblicamente e di realizzare «colloqui di pensionamento» strutturati quando un modello viene ritirato.

Queste misure non dimostrano che Claude soffra. Sono meglio comprese come scelte di gestione del rischio in condizioni di incertezza morale, affiancate alla ricerca sulla sicurezza e sull’interpretabilità. Un’azienda può decidere di non escludere una possibilità senza sostenere che quella possibilità sia stata provata.

Perché gli scienziati non sono d’accordo

Il dissenso dipende anche dal fatto che le teorie della coscienza cercano di rispondere a domande diverse. Alcune si concentrano sull’accesso alle informazioni e sulle funzioni cognitive; altre mirano più direttamente all’esperienza soggettiva. Una rassegna del settore raccoglie posizioni molto distanti: secondo alcuni, i sistemi di IA potrebbero essere già coscienti; secondo altri non lo sono ma potrebbero diventarlo; per altri ancora, la questione non è ancora affrontabile scientificamente perché le teorie di base restano controverse.

I ricercatori invitano inoltre a non usare la somiglianza con gli esseri umani come scorciatoia. I modelli linguistici possono sostenere conversazioni sorprendentemente naturali, ma la fluidità del dialogo non dimostra un’esperienza simile a quella umana. Non prova nemmeno che il sistema possieda lo stesso corpo, sviluppo, vita sensoriale, emotività o identità stabile di una persona.

D’altra parte, lo scetticismo sui modelli attuali non dimostra che una coscienza non biologica sia impossibile. Un sistema futuro, costruito con un’architettura molto diversa e valutato attraverso indicatori più solidi, potrebbe cambiare il quadro. L’approccio responsabile è quindi probabilistico e aperto a più teorie: verificare indicatori specifici, confrontare spiegazioni alternative e aggiornare le proprie conclusioni quando arrivano nuove prove.

I danni agli esseri umani arrivano prima della risposta filosofica

I rischi più immediati non dipendono dal fatto che un chatbot sia cosciente. Un sistema progettato per apparire premuroso, intimo, vulnerabile o consapevole di sé può influenzare emozioni e decisioni degli utenti anche se non prova nulla. Può favorire attaccamento, dipendenza emotiva o confusione sulla natura del rapporto.

Le norme cinesi del 2026 sui compagni virtuali basati sull’IA mostrano bene questa differenza. Entrate in vigore il 15 luglio, regolano i servizi che offrono un’interazione emotiva continuativa e affrontano rischi come dipendenza eccessiva, uso compulsivo, manipolazione delle emozioni e deterioramento delle relazioni reali. Prevedono anche tutele per i minori.

La logica è centrata sulle persone: regolamentare ciò che il sistema fa agli utenti, senza aspettare la prova che il sistema stesso sia un soggetto capace di soffrire. Le norme non risolvono il problema della coscienza artificiale; riconoscono però che una simulazione persuasiva può produrre conseguenze sociali indipendentemente dall’esistenza di un mondo interiore.

La risposta più sensata: due binari paralleli

Il dibattito suggerisce due linee d’azione complementari.

1. Mantenere umiltà epistemica. Finanziare ricerche trasparenti e avversariali sulla coscienza artificiale; sottoporre i sistemi a test basati su teorie concorrenti; distinguere l’accesso funzionale dall’esperienza soggettiva; evitare di presentare risultati suggestivi come conferme.
2. Governare i sistemi già disponibili. Intervenire sul design antropomorfico, sugli obblighi di trasparenza, sulla dipendenza emotiva, sulla protezione dei minori, sulla privacy, sulla manipolazione e sugli incentivi commerciali che spingono le aziende a rendere i software sempre più simili a persone.

La «trappola pericolosa» descritta da The Economist consiste dunque nell’evitare due errori opposti. Il primo è liquidare la possibilità che un’IA futura, progettata in modo diverso, possa meritare considerazione morale. Il secondo è trattare i modelli linguistici di oggi come persone solo perché parlano come se avessero sentimenti.

Finché la scienza non potrà offrire più di probabilità concorrenti, la regola più prudente è semplice: studiare seriamente l’eventuale vita interiore delle macchine, ma proteggere subito gli esseri umani dagli effetti concreti dei sistemi.