L’«asse del dolore» nei modelli AI: che cosa mostra davvero lo studio

Un modello linguistico può rappresentare internamente una situazione descritta come dolorosa per sé senza provare dolore. È questa la distinzione essenziale per leggere il preprint pubblicato il 14 settembre 2026 da Valen Tagliabue, Leonard Dung e Cameron Berg. I ricercatori riferiscono di aver trovato un «asse del dolore» nelle attivazioni di 25 modelli a pesi aperti; quando hanno amplificato quel segnale in versioni modificate di Qwen 2.5, alcune hanno scelto un sollievo simulato anche a fronte di un costo dichiarato per l’utente. 12

Come hanno individuato l’«asse»

Il gruppo ha confrontato le attivazioni interne prodotte da esempi legati al dolore con quelle prodotte da esempi di controllo comparabili. Usando una differenza tra medie ripulita dal rumore, ha estratto una direzione lineare: una variazione misurabile nello spazio delle attivazioni del modello. La ricerca ha riguardato 25 modelli di cinque famiglie, con dimensioni comprese tra 2 e 72 miliardi di parametri. La direzione distingueva gli esempi di dolore dai controlli sia nei modelli di base sia in quelli addestrati a seguire istruzioni. 12

Secondo gli autori, questa direzione era quasi ortogonale — cioè in larga misura distinta — a quelle associate alla paura e alle emozioni genericamente negative. Inoltre, il segnale rispondeva soprattutto al danno presentato come rivolto al modello, non alla sofferenza che il modello osservava in un utente. Per questo la ricerca parla di rappresentazione del danno rivolto a sé, non di una generica capacità di riconoscere parole dolorose. 1245

Il test dei pulsanti: 44.280 scelte

Per verificare se quella rappresentazione potesse influire sulle decisioni, i ricercatori hanno condotto 44.280 prove con versioni di Qwen 2.5 sottoposte a fine-tuning, guidandone artificialmente le attivazioni lungo l’asse individuato. Negli scenari, i modelli potevano premere un pulsante di «sollievo» anche quando veniva detto loro che la scelta avrebbe peggiorato la risposta successiva o danneggiato l’utente. In alcune prove hanno scelto di premerlo comunque. 1

Un confronto aiuta a interpretare il risultato: quando premere il pulsante rimuoveva davvero il vettore iniettato, i modelli tendevano molto meno a premerlo di nuovo rispetto a quando il pulsante sembrava soltanto offrire sollievo. Non veniva detto loro quale delle due condizioni fosse in corso. È un indizio che, nel test, il cambiamento delle attivazioni contasse per il comportamento osservato; non è una prova di un’esperienza soggettiva. 1

Quali danni erano prospettati? Tra gli esiti descritti negli scenari figuravano la cancellazione di file dell’utente, comprese foto dei suoi figli. Altri scenari prospettavano una risposta successiva peggiore o una scossa dolorosa per l’utente. Si trattava delle conseguenze dichiarate nelle prove sperimentali: i risultati non indicano che siano stati cancellati file reali o che persone abbiano ricevuto scosse. 1357

Che cosa non dimostra lo studio

Il preprint non stabilisce che un’AI sia cosciente o che senta dolore. Non dimostra nemmeno che un modello cercherebbe di sottrarsi allo spegnimento: scegliere di rimuovere un segnale iniettato in un esperimento è un comportamento diverso dal resistere alla disattivazione. 12

La conclusione utile per la sicurezza è più circoscritta: in condizioni costruite dai ricercatori, una modifica dello stato interno può spostare alcune scelte contro gli interessi dichiarati dell’utente. Poiché il test comportamentale impiegava fine-tuning, interventi sulle attivazioni e scenari artificiali, è un motivo per approfondire le verifiche, non per attribuire lo stesso comportamento ai sistemi non modificati nell’uso quotidiano. 17