Hinton: «Un 10% di rischio che l’IA uccida tutti entro dieci anni non è irragionevole»

Geoffrey Hinton, informatico vincitore del Nobel e tra i pionieri dell’IA moderna, ha affermato che una probabilità del 10% che l’intelligenza artificiale uccida tutti gli esseri umani entro i prossimi dieci anni non gli sembra irragionevole. Alla frase, però, ha affiancato una precisazione decisiva: «nessuno sa davvero come formulare una stima sensata». 91012

Non è quindi una previsione secondo cui l’estinzione avverrà, né l’idea che i chatbot di oggi abbiano già questa capacità. Il suo è un argomento di prudenza: se i sistemi diventassero molto più capaci degli esseri umani senza che si sappia come mantenerli sotto controllo, le conseguenze potrebbero essere estreme.

Che cosa intende Hinton con quel 10%

Nell’intervista a Newsnight della BBC, Hinton ha concordato sul fatto che il 10% non sia una stima irragionevole per un evento di estinzione causato dall’IA entro dieci anni. Alla base c’è soprattutto l’incertezza: l’umanità non ha mai dovuto convivere con entità che potrebbero diventare più intelligenti di lei. 910

Hinton aveva già espresso valutazioni gravi su orizzonti temporali più lunghi. Alla fine del 2024 parlò di una probabilità tra il 10% e il 20% che l’IA portasse all’estinzione umana entro trent’anni; nel 2025 ha definito quella forchetta un giudizio istintivo, non una previsione calcolata. 1415

La distinzione conta: una stima di rischio non equivale a una previsione di inevitabilità. Per Hinton, quando la posta in gioco è così alta, l’incertezza non è un motivo per rassicurarsi, ma per agire con cautela.

Perché lo preoccupa una futura superintelligenza

Lo scenario non è quello, cinematografico, di macchine che si ribellano all’improvviso. La preoccupazione di Hinton riguarda un sistema dotato di capacità strategiche e tecniche di gran lunga superiori a quelle umane, che potrebbe creare caos o perseguire obiettivi incompatibili con gli interessi delle persone.

Tra i possibili meccanismi di danno citati figurano la manipolazione degli esseri umani, la creazione di virus biologici o informatici, gli attacchi cyber e l’interruzione di infrastrutture critiche. Si tratta di scenari ipotizzati per sistemi futuri molto più capaci, non di funzioni dimostrate dagli strumenti di IA oggi disponibili. 1011

Questa differenza è fondamentale. Evan Hubinger, responsabile della scienza dell’allineamento in Anthropic, ha detto esplicitamente di ritenere basso il rischio dei modelli presenti. La sua preoccupazione, come quella di Hinton, riguarda sistemi che potrebbero diventare molto più capaci o migliorarsi più rapidamente di quanto i ricercatori riescano a gestire in sicurezza. 11624

Il caso Coxon e Hubinger dentro Anthropic

Il dibattito si è intensificato dopo l’uscita di Jacob Coxon da Anthropic e dall’industria dell’IA. Coxon ha sostenuto che Anthropic e OpenAI stiano correndo verso una superintelligenza in grado di auto-migliorarsi senza agire in modo sufficientemente responsabile, descrivendo la corsa come una scommessa sulle vite umane. 317

Coxon non ha previsto con precisione la fine dell’umanità entro il 2030. La sua affermazione era più circoscritta, pur restando eccezionale: le persone che costruiscono l’IA di frontiera credono davvero che la tecnologia possa uccidere tutti entro la fine del decennio. 57

Hubinger ha sostenuto pubblicamente la gravità della preoccupazione. Ha scritto di assegnare personalmente una probabilità superiore al 10% al fatto che l’IA possa uccidere tutti gli esseri umani nel prossimo decennio, aggiungendo che Anthropic sta facendo del suo meglio. Ma ha anche detto che l’azienda non dispone ancora di un piano per risolvere l’allineamento della superintelligenza e non è chiaramente sulla strada per svilupparne uno. 16

Che cosa significa «allineamento»

Per allineamento si intende il problema di garantire che sistemi di IA avanzati agiscano in modo affidabile secondo gli obiettivi umani previsti e restino controllabili, anche in situazioni che i loro creatori non avevano anticipato.

Per i ricercatori focalizzati sulla sicurezza, non basta che un sistema rifiuti una richiesta dannosa. La questione è se un’IA con ampia autonomia, accesso a strumenti e capacità che gli stessi operatori faticano a comprendere possa essere diretta in sicurezza nel mondo reale.

Le parole di Hubinger non dimostrano che l’allineamento sia impossibile. Indicano invece che, secondo la sua valutazione, non esiste ancora una soluzione dimostrata per allineare una superintelligenza prima che sistemi di quel livello possano arrivare. 16

Dove gli esperti convergono — e dove divergono

Non esiste un consenso sulla cifra esatta del 10% indicata da Hinton.

Gary Marcus ha approvato il punto precauzionale di fondo: sarebbe imprudente sviluppare una superintelligenza senza un consenso scientifico sul fatto che possa essere costruita in modo sicuro e controllabile. Al tempo stesso, le ricostruzioni riportano che Marcus non vede una via realistica all’estinzione nel breve periodo. È una differenza importante: si può condividere la necessità di garanzie senza accettare la stessa probabilità o la stessa tempistica del disastro. 1141

In altre parole, queste percentuali vanno lette come giudizi personali di esperti in un campo molto incerto, non come misurazioni scientifiche consolidate.

La domanda pratica per politica e società

Il terreno comune più solido non è l’idea che l’estinzione causata dall’IA sia certa. È che una possibilità non trascurabile di perdere il controllo su sistemi più capaci dei loro operatori meriti attenzione pubblica prima che lo sviluppo superi il lavoro sulla sicurezza.

La stima di Hinton, le dimissioni di Coxon e l’avvertimento di Hubinger rimandano tutti alla stessa domanda irrisolta: quali prove dovrebbe pretendere la società prima di distribuire o continuare a potenziare sistemi che potrebbero diventare strategicamente sovrumani?

Per orientarsi nel dibattito, è utile separare tre affermazioni spesso confuse:

• I modelli di IA attuali rappresentano una minaccia di estinzione.
• Sistemi futuri potrebbero acquisire capacità tali da creare una minaccia di questo tipo.
• La probabilità di quell’esito può essere stimata con precisione.

Le fonti trattano la seconda come una preoccupazione seria sollevata da ricercatori di primo piano; Hubinger considera basso il rischio dei modelli attuali, mentre Hinton sottolinea che la probabilità stessa non può essere calcolata in modo affidabile. 11016