Andrew Ng: i timori sull’estinzione umana causata dall’IA sono «più fantascienza che scienza»

Andrew Ng ha respinto l’idea che l’intelligenza artificiale possa verosimilmente provocare l’estinzione dell’umanità. Nell’intervista del 17 settembre a Bloomberg TV, ha definito questi timori «molto più fantascienza che scienza». Per Ng, il fatto che un sistema di IA non sia perfettamente prevedibile non è una prova che si debba fermare l’innovazione: è un problema ingegneristico da affrontare. 10

Perché Ng diffida della retorica catastrofista

Ng non sostiene che la sicurezza sia irrilevante. Il suo punto è che gli scenari di estinzione possono deviare il dibattito dai benefici concreti dell’IA e dai problemi verificabili che richiedono interventi immediati. Ha inoltre osservato che, anche nelle precedenti fasi di sviluppo tecnologico, narrazioni allarmistiche hanno potuto generare attenzione mediatica e contribuire a orientare la regolamentazione. 810

L’implicazione della sua critica è che norme costruite soprattutto attorno ai più grandi modelli di frontiera — ossia i sistemi più avanzati e costosi da addestrare — potrebbero favorire i laboratori già dominanti, gli unici in grado di sostenere oneri di conformità elevati. 810

La proposta: sicurezza come disciplina ingegneristica

Per Ng, la risposta non è ignorare i rischi, bensì lavorare su quelli osservabili e prevedibili. Ha indicato test rigorosi, salvaguardie e pratiche di ingegneria per ridurre i fallimenti concreti, in particolare nell’ambito della cybersicurezza e di altri possibili danni noti. 10

La sua posizione è che nessun sistema sarà mai del tutto prevedibile, ma che si possa renderlo sufficientemente affidabile attraverso valutazioni, guardrail — cioè vincoli e controlli operativi — e miglioramenti iterativi. Ha anche avvertito che un rallentamento generalizzato dell’IA potrebbe rallentare la stessa ricerca sulla sicurezza. 10

Lo scontro con chi chiede di rallentare

La linea di Ng diverge da quella di ricercatori e dirigenti che considerano il rischio di perdita di controllo abbastanza plausibile da giustificare un ritmo più lento nello sviluppo dei modelli più avanzati.

• Jacob Coxon, ex ricercatore di OpenAI e Anthropic, ha lasciato Anthropic avvertendo che una corsa poco controllata verso sistemi capaci di auto-migliorarsi potrebbe portare a una catastrofe; ha chiesto di rallentare. 214
• Dario Amodei, amministratore delegato di Anthropic, ha proposto di ridurre il ritmo dei progressi nelle capacità dei modelli di frontiera, dando più tempo alla gestione dei rischi. Il suo piano include valutatori indipendenti per i sistemi avanzati. 36
• Sam Altman, amministratore delegato di OpenAI, si è allineato alla tesi di fondo secondo cui servono rallentamento e salvaguardie, nel timore che il settore si avvicini a sistemi non controllabili dagli esseri umani. 19
• Geoffrey Hinton ritiene significativo il rischio che l’IA sfugga al controllo umano e sostiene uno sviluppo più lento, oltre a misure come test prima del rilascio. 16

La differenza centrale riguarda quindi sia la probabilità attribuita agli scenari estremi sia la priorità politica: Coxon, Amodei, Altman e Hinton ritengono che il rischio di perdita di controllo meriti di scandire deliberatamente il progresso delle capacità; Ng considera le affermazioni sull’estinzione speculative e privilegia la gestione ingegneristica dei rischi vicini e misurabili. 31016

Chi rifiuta il rallentamento, per ragioni diverse

Ng condivide l’opposizione a un blocco esteso dell’industria con figure che mettono però l’accento soprattutto su competitività, innovazione e minori vincoli normativi.

• Jensen Huang, amministratore delegato di Nvidia, si è opposto a nuove leggi specifiche per l’IA e alla richiesta di un rallentamento generalizzato. 5
• Mark Zuckerberg, amministratore delegato di Meta, si è detto contrario a una pausa per l’intero settore, sostenendo che concorrenza e incentivi di mercato spingerebbero le aziende a rendere sicuri i modelli. 7
• Il presidente Donald Trump ha respinto le richieste di rallentare, ha definito una «bufala» le tesi sui pericoli dell’IA e ha sostenuto che gli Stati Uniti dispongano già degli strumenti per regolamentare il settore o perseguire condotte illecite. La sua enfasi è sulla competitività americana, soprattutto nei confronti della Cina. 257
• Un portavoce del ministero degli Esteri cinese ha a sua volta respinto gli appelli a rallentare lo sviluppo dell’IA di frontiera, segnalando contrarietà a una pausa globale imposta dall’esterno. 11

La convergenza con Ng, dunque, è solo parziale. Ng propone un approccio tecnocratico, centrato su difetti tangibili e controlli tecnici; Huang, Zuckerberg, Trump e la posizione cinese richiamata nelle fonti pongono maggiormente l’accento sull’innovazione, la competizione e lo scetticismo verso ulteriori restrizioni. 571011

Non emergono invece elementi sufficienti nelle fonti disponibili per attribuire con precisione ad Aidan Gomez o Steve Eisman una posizione su rallentamento dell’intero settore, ricerca sulla sicurezza, regolamentazione e governance internazionale dell’IA.