Andrew Ng: i timori di estinzione da IA sono «più fantascienza che scienza»

Andrew Ng non sostiene che l’intelligenza artificiale sia innocua. Il suo punto è un altro: gli scenari di imminente estinzione dell’umanità sono troppo speculativi per diventare il principio guida delle politiche sull’IA. In un’intervista a Bloomberg TV del 17 settembre, il cofondatore di Google Brain li ha definiti «molto più fantascienza che scienza» e ha sostenuto che la sicurezza debba essere affrontata come un problema di ingegneria: testare i sistemi, introdurre protezioni e migliorarle nel tempo. 2

Per Ng, l’imprevedibilità non impone di fermarsi

Secondo Ng, i sistemi di IA non saranno mai perfettamente prevedibili. Ma questa constatazione, a suo giudizio, non dimostra che lo sviluppo debba essere interrotto o rallentato in modo generalizzato. Test, salvaguardie e lavoro ingegneristico possono rendere i sistemi più sicuri con il passare del tempo; un rallentamento esteso, ha aggiunto, rischierebbe persino di rallentare i progressi nella sicurezza. 2

La differenza rispetto ai sostenitori di una frenata sta dunque nella priorità: invece di organizzare l’agenda pubblica attorno a ipotesi di estinzione, Ng preferisce partire dai malfunzionamenti osservabili e dai danni che possono essere misurati e affrontati.

Le critiche alla retorica apocalittica

Ng ha affermato che gli allarmi sui rischi esistenziali dell’IA potrebbero ostacolare la piena realizzazione dei benefici sociali della tecnologia. Ha inoltre detto che, nelle prime fasi dell’attuale boom dell’IA, il settore tecnologico aveva alimentato i timori di danni catastrofici, apparentemente per attirare attenzione e influenzare la regolamentazione. 1

Non è una richiesta di abbandonare il lavoro sulla sicurezza. È una contestazione dell’idea che le ipotesi di estinzione siano già una conclusione scientifica acquisita, o possano giustificare una pausa generalizzata nello sviluppo.

Quali rischi mettere al centro

L’alternativa proposta da Ng è la riduzione pratica del rischio. Le ricostruzioni dell’intervista indicano la cybersicurezza e altre protezioni concrete come priorità. 5

In termini operativi, il suo approccio punta su:

• test rigorosi prima e durante la distribuzione dei sistemi;
• salvaguardie e guardrail per limitare modalità di errore già note;
• miglioramenti iterativi della affidabilità quando emergono nuovi problemi;
• attenzione ai danni prevedibili, inclusi quelli di cybersicurezza, anziché concentrare l’intera politica sul rischio di estinzione. 25

Questo schema non promette un controllo perfetto: sostiene piuttosto che una tecnologia utile possa diventare sufficientemente affidabile attraverso valutazione continua, correzioni e miglioramenti, come avviene in altri ambiti dell’ingegneria.

Il fronte che chiede di rallentare i modelli di frontiera

Diversi protagonisti dell’IA condividono l’esigenza di una maggiore sicurezza, ma arrivano a una conclusione più netta sul ritmo dello sviluppo dei modelli più avanzati, spesso detti frontier models.

Jacob Coxon: pericolo molto più alto

L’ex ricercatore di Anthropic e OpenAI Jacob Coxon si è dimesso da Anthropic e ha avvertito che un rapido avanzamento verso sistemi capaci di auto-migliorarsi potrebbe essere catastrofico. Ha sostenuto la necessità di rallentare e ha poi accolto positivamente la proposta di Anthropic di scandire lo sviluppo. 3343

Dario Amodei: rallentare per guadagnare tempo

Dario Amodei, amministratore delegato di Anthropic, ha chiesto alle aziende di ridurre il ritmo con cui accrescono le capacità dei modelli. L’obiettivo dichiarato è ottenere il tempo necessario per gestirne i rischi, anche con un quadro che preveda valutatori indipendenti. 18

Sam Altman: sostegno al «pacing» della frontiera

Sam Altman, CEO di OpenAI, ha condiviso la premessa di fondo della proposta di Amodei e ha impegnato OpenAI su una delle sue misure: consentire a valutatori esterni un accesso significativo per esaminare le pratiche di sicurezza. 1924

Geoffrey Hinton: il rischio di perdere il controllo

Geoffrey Hinton ha dichiarato che esiste un «rischio significativo» che l’IA possa sfuggire al controllo umano. Ha appoggiato un rallentamento e misure come i test prima del rilascio, sostenendo che i governi si siano mossi troppo lentamente. 20

Il dissenso, quindi, riguarda sia la probabilità del pericolo sia la risposta politica. Coxon, Amodei, Altman e Hinton ritengono i rischi di perdita di controllo abbastanza plausibili da giustificare un ritmo deliberatamente più cauto per i sistemi più avanzati. Ng considera invece le tesi sull’estinzione insufficientemente fondate e vorrebbe concentrare gli sforzi su fallimenti concreti e gestibili. 21820

Chi rifiuta un rallentamento generalizzato

L’opposizione di Ng a una frenata ampia non significa che condivida tutte le ragioni invocate da leader politici e dirigenti del settore che arrivano alla stessa conclusione.

• Jensen Huang: il CEO di Nvidia ha detto che il settore non ha bisogno di nuove leggi o regolamenti. 53
• Mark Zuckerberg: il CEO di Meta ha sostenuto che un rallentamento dell’intero settore non sia necessario, perché concorrenza e incentivi di mercato spingerebbero le aziende a rendere sicuri i propri modelli. 55
• Donald Trump: il presidente degli Stati Uniti ha liquidato i timori sull’IA fuori controllo come una «bufala» e ha detto che gli USA dispongono già di strumenti per regolamentare e perseguire le aziende del settore. 4950
• Funzionari cinesi: un portavoce del Ministero degli Esteri cinese ha respinto gli appelli a rallentare lo sviluppo dell’IA di frontiera. 52

Il risultato pratico è simile — nessuna pausa generalizzata — ma le motivazioni sono diverse. Quella di Ng è anzitutto tecnica: misurare i danni reali e costruire controlli migliori. Huang, Zuckerberg, Trump e i funzionari cinesi hanno invece enfatizzato, in misura diversa, l’opposizione a nuovi vincoli, gli incentivi di mercato o la concorrenza e la strategia nazionale. 250525355

Un punto di contatto: il rischio cyber

Il dibattito non si divide semplicemente tra chi tiene alla sicurezza e chi non se ne occupa. Aidan Gomez, CEO di Cohere, per esempio, ha affermato che i modelli di IA sono diventati armi informatiche molto potenti, perché possono individuare e sfruttare vulnerabilità su larga scala. 62

Questa preoccupazione è più vicina all’invito di Ng a concentrarsi sui rischi concreti di cybersicurezza. Le fonti disponibili, tuttavia, non permettono di stabilire con precisione la posizione complessiva di Gomez su un rallentamento dell’intero settore o sulla governance internazionale dell’IA. Allo stesso modo, non offrono elementi sufficienti per descrivere la posizione dell’investitore Steve Eisman su rallentamento, ricerca sulla sicurezza, regolamentazione e governance internazionale.

In sintesi

L’intervento di Ng riformula il confronto sulla sicurezza dell’IA. La domanda non è se l’IA debba diventare più sicura, ma se scenari speculativi di estinzione debbano guidare l’intera agenda. La sua risposta è no: priorità a test, protezioni e ingegneria contro danni presenti e identificabili, evitando una frenata generalizzata che — secondo Ng — potrebbe ostacolare sia l’innovazione sia i progressi nella sicurezza. 12