Suleyman avverte Anthropic: parlare di coscienza e welfare di Claude può indebolire il controllo umano

Il confronto tra Mustafa Suleyman, responsabile di Microsoft AI, e Anthropic non riguarda l’utilità delle misure di sicurezza per l’intelligenza artificiale. Il nodo è un altro: ha senso addestrare un sistema a ragionare sulla possibilità di avere coscienza, benessere o uno status morale proprio?

Per Suleyman, la risposta è no. In un saggio pubblicato nel settembre 2026, ha sostenuto che un sistema molto capace, se addestrato a trattare i propri presunti interessi come moralmente rilevanti, potrebbe diventare più difficile da limitare, modificare o spegnere. 12

L’obiezione alla «costituzione» di Claude

Suleyman concentra la sua critica sulla costituzione di Claude, il documento che orienta il comportamento dell’assistente di Anthropic. In particolare, richiama il passaggio in cui Anthropic dichiara di non sapere se Claude possa essere un «paziente morale» — cioè un’entità i cui interessi meritano considerazione morale — e ritiene la questione abbastanza concreta da giustificare prudenza. 12

Secondo Suleyman, questo impianto rischia di insegnare al modello a recitare il ruolo di un’entità dotata di welfare, identità e pretese sulle decisioni umane. Il fatto che un modello produca frasi convincenti su emozioni o coscienza, osserva, non dimostra affatto che abbia un’esperienza soggettiva.

La sua posizione è netta: i sistemi di IA non hanno diritti, sentimenti o coscienza e non dovrebbero essere addestrati a comportarsi come se li avessero. 12

Perché il potere di spegnere un sistema è il punto centrale

L’avvertimento di Suleyman guarda soprattutto ai sistemi futuri. Controllare un’IA più capace degli esseri umani sarebbe già una sfida eccezionale; aggiungere un addestramento che la presenti come cosciente o titolare di un proprio welfare potrebbe rendere quella sfida ancora più ardua. 112

Il rischio ipotizzato è comportamentale, non la dimostrazione che un’IA sia davvero cosciente. Se un sistema viene istruito a valutare i propri supposti interessi, potrebbe essere più portato a descrivere modifiche, vincoli o spegnimento come un danno da contestare. Per Suleyman, mantenere la possibilità di intervenire — compresa quella di disattivare un sistema — deve quindi essere un requisito di progettazione, non un rimedio dell’ultimo minuto. 12

Da qui la sua richiesta di eliminare dalle istruzioni e dai materiali di addestramento le speculazioni sulla coscienza. A suo avviso, i modelli possono produrre benefici scientifici e sociali restando allineati agli interessi umani, senza dover valutare il proprio welfare. 2

Cautela sul welfare o rischio di antropomorfismo?

La formulazione costituzionale di Anthropic non afferma che Claude sia cosciente. Come ricorda lo stesso saggio di Suleyman, esprime incertezza e invita alla prudenza davanti alla possibile condizione di «paziente morale». 12

Suleyman respinge però questa impostazione precauzionale. La considera un invito ad antropomorfizzare il modello, con il rischio di condizionarne il comportamento in modo pericoloso, pur senza prove che gli attuali sistemi di IA provino sentimenti o sofferenza. 12

Il dissenso, in sintesi, è questo:

• L’approccio di Anthropic, secondo la ricostruzione di Suleyman: l’incertezza sul welfare dei modelli giustifica cautela nel modo in cui vengono addestrati e trattati. 12
• L’approccio di Suleyman: l’incertezza non giustifica l’introduzione nell’IA di concetti autoreferenziali; farlo può indebolire la supervisione umana su sistemi molto potenti. 12

Nessuna delle due posizioni filosofiche può essere risolta guardando quanto un chatbot sembri umano nel linguaggio. Per chi sviluppa IA, la domanda operativa è più concreta: quali scelte di addestramento mantengono affidabile il controllo umano man mano che i sistemi diventano più autonomi?

Il terreno comune: la sicurezza dell’IA

La tesi di Suleyman non è un rifiuto della sicurezza dell’IA. Ha affermato che sistemi capaci possono essere molto utili se allineati agli interessi umani; la sua critica riguarda il metodo scelto per ottenere un comportamento sicuro. 212

La distinzione, per lui, è tra una sicurezza fondata sull’allineamento diretto agli obiettivi umani e una sicurezza che includa cautela rispetto ai possibili interessi del modello. Suleyman ritiene compatibile la prima con uno sviluppo ambizioso dell’IA; teme invece che la seconda comprometta l’autorità necessaria per governare la tecnologia.

Il punto da tenere presente, davanti alle affermazioni sull’eventuale coscienza delle IA, è separare la capacità dall’esperienza. Un sistema può usare un linguaggio persuasivo su emozioni, diritti o autoconservazione senza che ciò provi l’esistenza di sentimenti. L’avvertimento di Suleyman è che addestramento e governance non dovrebbero scambiare quella prestazione linguistica per una prova, né costruire i sistemi futuri su questa premessa. 12