Il 10% di Evan Hubinger sull’estinzione da IA riapre il nodo dell’allineamento

La dichiarazione pubblica di Evan Hubinger non dimostra che l’intelligenza artificiale causerà l’estinzione umana. Ha però reso esplicito qualcosa di molto più circoscritto, e politicamente rilevante: il responsabile di Alignment Science di Anthropic ha scritto di ritenere personalmente superiore al 10% la probabilità di un esito simile entro il prossimo decennio. Ha anche riconosciuto che Anthropic non dispone ancora di un piano per risolvere il problema dell’allineamento della superintelligenza, né appare chiaramente sulla strada per trovarlo. 12

Questo punto dà maggiore concretezza alle ragioni addotte dall’ex ricercatore Anthropic e OpenAI Jacob Coxon al momento delle dimissioni: i laboratori che sviluppano i modelli di frontiera potrebbero continuare a puntare a sistemi molto più capaci senza aver dimostrato un metodo affidabile per mantenerli coerenti con gli obiettivi e i vincoli umani. 23

Una stima individuale, non una conclusione di Anthropic

Il dato «oltre il 10%» è la valutazione di Hubinger. Non è stato presentato come una stima ufficiale di Anthropic, come il parere condiviso dai suoi dipendenti o come una previsione scientifica consolidata. 12

La distinzione è essenziale. Una probabilità, da sola, non descrive un meccanismo causale, non fissa una tempistica certa e non prova che una catastrofe sia probabile. Hubinger avrebbe inoltre detto che il rischio posto dai modelli oggi esistenti è basso. La sua preoccupazione riguarda sistemi futuri assai più capaci, inclusa la possibilità di un miglioramento ricorsivo: l’uso delle capacità dell’IA per contribuire a creare IA ancora più avanzate. 210

Ciò nonostante, le sue parole hanno un peso particolare perché arrivano da chi guida il lavoro sull’allineamento in un grande laboratorio di IA di frontiera. Il punto più rilevante non è soltanto la cifra, ma il divario tra il rapido progresso delle capacità e la fiducia di poter mantenere una superintelligenza sotto controllo umano. 12

Perché il caso rafforza l’allarme lanciato da Jacob Coxon

Coxon, che aveva lavorato sia in OpenAI sia in Anthropic, si è dimesso sostenendo che nessuna delle due società stesse agendo in modo responsabile e che entrambe fossero impegnate in una corsa verso una superintelligenza capace di auto-migliorarsi. Hubinger ha dato pubblicamente ragione a Coxon su un punto preciso: le persone che costruiscono questi sistemi prendono sul serio la possibilità di esiti di livello estintivo. 23

Questo non dimostra che tutti i dipendenti condividano la stessa analisi, né trasforma il racconto di Coxon in una verifica indipendente delle condotte di entrambe le aziende. Rende però più difficile liquidare le dimissioni come la protesta isolata di un ex dipendente: un attuale responsabile dell’allineamento ha confermato che preoccupazioni gravi possono convivere con il proseguimento dello sviluppo dei modelli di frontiera. 12

Anche i commenti attribuiti a Samuel Marks vanno letti con la stessa cautela. Secondo le notizie riportate, Marks ha detto che gli sviluppatori di IA ritengono possibile che la tecnologia provochi l’estinzione umana o danni di analoga gravità; si tratta però di una valutazione dall’interno, non di una stima di rischio pubblicata e condivisa dall’intera azienda. 5

Il nodo reale: come governare l’incertezza

La vicenda viene spesso ridotta a uno scontro tra «catastrofisti dell’IA» e ottimisti. La domanda più utile è pratica: quali garanzie dovrebbero essere obbligatorie quando i danni potenziali sono globali e irreversibili, ma probabilità e tempi restano profondamente incerti?

Le osservazioni di Hubinger mettono a fuoco alcuni problemi:

• L’allineamento non è risolto. Affermare che un laboratorio si impegna seriamente non equivale a dimostrare di avere un metodo validato per controllare sistemi molto più capaci di quelli attuali. 1
• La concorrenza può rendere difficile frenare volontariamente. La critica di Coxon è che la pressione competitiva spinga le aziende verso capacità maggiori mentre interrogativi di sicurezza fondamentali restano aperti. 23
• La sicurezza dei modelli attuali non esaurisce la questione. Hubinger distingue il rischio percepito come basso dei sistemi odierni dal pericolo ipotetico legato a modelli futuri molto più potenti. 210
• Serve una verifica esterna. Senza valutazioni indipendenti e rendicontazione trasparente, cittadini, clienti e governi faticano a giudicare le procedure di sicurezza interne delle aziende.

Questi elementi non sono la prova di un disastro imminente. Sono però problemi di governance che diventerebbero più difficili da affrontare se i sistemi acquisissero capacità pericolose prima dell’adozione di regole e controlli adeguati.

Le domande sulla trasparenza

Alcune ricostruzioni riferiscono che Anthropic avrebbe scelto di non sottoporre il suo modello più recente a test presso il britannico AI Safety Institute prima del rilascio. L’informazione va trattata con prudenza: le fonti disponibili la descrivono come una notizia riportata, non come un accertamento pubblico confermato dall’azienda o dal governo del Regno Unito. 10

Ciononostante, l’episodio mostra perché gli impegni volontari sulla sicurezza suscitano scetticismo. Se i responsabili della sicurezza di un’azienda riconoscono che l’allineamento resta irrisolto, è ragionevole chiedere quali test siano stati effettuati, da chi siano stati esaminati, quali risultati siano stati condivisi e quali soglie di capacità facciano scattare controlli più rigorosi.

Cosa potrebbe voler dire rallentare in modo responsabile

Chiedere di «rallentare» non significa necessariamente bloccare per sempre la ricerca o l’uso dell’IA. La proposta di policy è piuttosto introdurre verifiche vincolanti prima che un sistema superi soglie di capacità particolarmente rilevanti.

Tra le misure possibili:

• valutazioni indipendenti su capacità e sicurezza prima della distribuzione;
• obblighi di segnalazione per incidenti gravi e capacità potenzialmente pericolose;
• soglie più chiare oltre le quali gli sviluppatori devono adottare misure rafforzate di sicurezza e governance;
• audit che non si basino esclusivamente sulle rassicurazioni interne del produttore;
• coordinamento internazionale, per evitare che una singola azienda o un singolo Paese sia spinto a tagliare i controlli pur di non restare indietro nella competizione.

La logica è semplice: se la probabilità del rischio è incerta ma il danno potenziale è estremo, le protezioni dovrebbero essere dimostrabili prima — non dopo — un’eventuale perdita di controllo.

Che cosa rivela davvero la dichiarazione

L’intervento di Hubinger mette in luce una tensione al centro dell’IA di frontiera: chi sviluppa i sistemi più avanzati può riconoscere pubblicamente rischi gravi di lungo periodo e, nello stesso tempo, continuare a costruire le capacità che rendono quei rischi più urgenti. 12

Non stabilisce la probabilità di un danno catastrofico causato dall’IA e non va interpretato come una previsione ufficiale di Anthropic. Rende però il confronto sull’allineamento molto più concreto. La questione non è più soltanto se un’IA molto avanzata potrebbe diventare pericolosa, ma se aziende e governi riusciranno a dimostrare — con evidenze indipendenti, regole applicabili e cooperazione internazionale — di essere pronti prima che tali sistemi diventino troppo potenti per essere governati in sicurezza. 110