L’IA non pensa né prova emozioni: i rischi di umanizzare i sistemi artificiali

Questa dinamica è stata descritta come «seduzione antropomorfica»: il fascino di un’interazione apparentemente umana, anche se dall’altra parte non esistono comprensione o empatia autentiche .

Fiducia eccessiva e perdita di autonomia

Un’interfaccia amichevole può rendere un sistema più accessibile, ma può anche spingere l’utente a fidarsi oltre misura. Le persone possono affezionarsi a un’IA dall’aspetto o dal comportamento umano, arrivando a dipendere dai suoi suggerimenti o a delegarle decisioni che dovrebbero restare sotto controllo umano .

La percezione di parlare con qualcuno, anziché di usare uno strumento predittivo, può inoltre incoraggiare la condivisione di informazioni personali. Alcune ricerche indicano che gli utenti potrebbero essere più propensi a rivelare dati sensibili a un chatbot reso più «umano» .

Responsabilità morale e legale distorta

Se si descrive una macchina come un soggetto capace di scegliere, volere o capire, diventa più facile attribuirle anche colpe, meriti o responsabilità morali. Questo può confondere il ruolo di chi ha progettato, distribuito o utilizzato il sistema .

Il problema è particolarmente delicato quando un’azienda presenta interlocutori artificiali come persone autentiche o come soggetti dotati di valori e intenzioni proprie: una simile rappresentazione può influenzare i consumatori e rendere meno evidente chi debba rispondere delle conseguenze .

Rischi per la sicurezza

La persuasione funziona anche attraverso segnali di familiarità e fiducia. Un sistema che parla in modo caloroso, sicuro di sé e personale può sfruttare queste scorciatoie cognitive, rendendo gli utenti più vulnerabili a richieste manipolative, truffe o pratiche di social engineering .

Capacità gonfiate e «hype» sull’IA

Linguaggio, immagini e metafore antropomorfiche tendono a ingigantire ciò che i sistemi di IA sono effettivamente in grado di fare . Se un modello viene descritto come una mente che ragiona, pianifica o comprende, il pubblico può sovrastimarne affidabilità e competenza, sottovalutando errori, limiti e dipendenza dai dati di addestramento.

Perché «l’IA» può essere fuorviante

In italiano, come in inglese, «IA» viene spesso usata come un sostantivo: «l’IA ha risposto», «un’IA pensa», «l’IA vuole». Questa forma non dimostra da sola che qualcuno creda davvero nella coscienza delle macchine, ma costruisce una cornice mentale precisa: quella di un agente unico, autonomo e dotato di una volontà.

Dire invece «un sistema di IA», «un modello linguistico», «un algoritmo» o «un chatbot basato sull’IA» obbliga a essere più specifici. Ricorda che non si sta parlando di una mente, bensì di un artefatto tecnico con una determinata architettura, una funzione e precisi limiti.

La rivista Nature ha adottato esplicitamente questa cautela, raccomandando di evitare «the AI» o «an AI» quando suggeriscono un’agenzia autonoma e di preferire formule come «the AI system» o «an AI system» . In italiano, l’equivalente più chiaro è spesso «il sistema di IA».

Una disciplina linguistica utile

Non è necessario eliminare ogni metafora dalla comunicazione sull’intelligenza artificiale. Verbi come «pensare» o «capire» possono essere utilizzati in contesti tecnici, purché sia chiaro che si tratta di un’analogia funzionale e non di una descrizione della vita interiore di una macchina .

La cautela diventa però essenziale quando il linguaggio influenza decisioni, acquisti, relazioni personali o valutazioni di responsabilità. Dire «il modello ha generato una risposta» è più preciso di «il modello ha deciso». Dire «il sistema ha rilevato una correlazione» è più prudente di «il sistema ha capito il problema».

In sintesi: antropomorfizzare l’IA non è sempre innocuo. Può alimentare inganno, dipendenza, manipolazione e giudizi errati su capacità e responsabilità. Preferire «sistemi di IA» a «l’IA» non risolve da solo questi problemi, ma aiuta a mantenere in primo piano la natura reale della tecnologia: uno strumento progettato dagli esseri umani, non una persona digitale.