AnswersPublished13 sources
L’ex ricercatore DeepMind Bilal Chughtai lancia l’allarme sull’IA
Bilal Chughtai, che ha lasciato Google DeepMind nel luglio 2026, afferma che l’IA potrebbe «ucciderci tutti» e che il tempo per evitarlo potrebbe ridursi. Le sue parole si aggiungono agli allarmi di Jacob Coxon ed Evan Hubinger, ma non costituiscono una previsione scientifica né un consenso sulle probabilità di esti...
Pubblicato daModificato con GPT-5.6 TerraImmagini generate con GPT Image 2
Research answer
Key takeaways
- Bilal Chughtai, che ha lasciato Google DeepMind nel luglio 2026, afferma che l’IA potrebbe «ucciderci tutti» e che il tempo per evitarlo potrebbe ridursi.
- Le sue parole si aggiungono agli allarmi di Jacob Coxon ed Evan Hubinger, ma non costituiscono una previsione scientifica né un consenso sulle probabilità di estinzione.
- Lo scontro riguarda il ritmo dello sviluppo: più test, verifiche esterne e poteri di intervento secondo i sostenitori delle cautele; rischio di perdere terreno rispetto alla Cina secondo i critici.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai ha formulato un allarme sui rischi esistenziali, non una previsione secondo cui l’intelligenza artificiale distruggerà inevitabilmente l’umanità. Dopo aver lasciato Google DeepMind, dove ha detto di aver lavorato alla sicurezza e all’allineamento dell’AGI — l’intelligenza artificiale generale — ha scritto che l’IA ha il potenziale di «ucciderci tutti» e che il tempo per scongiurare questo esito potrebbe essere in esaurimento.
Che cosa teme Chughtai
Al centro della sua preoccupazione c’è la traiettoria dello sviluppo: sistemi sempre più capaci potrebbero avanzare più rapidamente della capacità umana di renderli affidabili, controllabili e coerenti con gli obiettivi delle persone. Chughtai contesta soprattutto la pressione competitiva che spinge le aziende a costruire e distribuire modelli più potenti prima che siano pronti adeguati meccanismi di sicurezza, ricerca sull’allineamento e controllo pubblico.
La soluzione proposta non è un’iniziativa isolata di una singola impresa, bensì un coordinamento collettivo. Secondo Chughtai, lo sviluppo dell’IA dovrebbe procedere a una velocità sostenibile per la società, così da affrontare i rischi emergenti prima che si traducano in danni estremi. Ha invitato le aziende a evitare una «corsa frenetica».
Un coro di allarmi, non un consenso scientifico
L’intervento di Chughtai arriva dopo dichiarazioni altrettanto nette di altri ricercatori impegnati sui modelli di frontiera, cioè i sistemi di IA più avanzati.
Jacob Coxon, ex ricercatore di Anthropic, ha spiegato di essersi dimesso perché riteneva che i principali laboratori stessero correndo in modo irresponsabile verso una superintelligenza capace di migliorarsi autonomamente. Coxon ha detto che le persone che costruiscono l’IA credono sinceramente che essa possa distruggere l’umanità entro la fine del decennio.
Evan Hubinger, ricercatore di Anthropic specializzato nell’allineamento, ha condiviso la preoccupazione di fondo e ha stimato personalmente una probabilità superiore al 10% che l’IA possa causare l’estinzione umana nel prossimo decennio. Ha però distinto questo rischio di lungo periodo dai modelli attuali, che ha definito a basso rischio.
Sono valutazioni individuali, non una stima empirica consolidata né un consenso della comunità scientifica. Il punto, più circoscritto, è che alcune persone vicine allo sviluppo dei modelli di frontiera giudicano il potenziale danno abbastanza grave da richiedere precauzioni più robuste già ora.
Rallentare l’IA di frontiera: che cosa significa
La proposta di Chughtai è in linea con l’appello del CEO di Anthropic, Dario Amodei, a scandire il ritmo dello sviluppo dei sistemi più avanzati mentre migliorano le misure di sicurezza e la supervisione esterna. Secondo le ricostruzioni, l’idea di una decelerazione coordinata nell’industria ha ricevuto sostegno anche da Sam Altman, CEO di OpenAI, ed Elon Musk.
Non si tratta necessariamente di vietare in modo permanente l’IA. L’Advanced AI Framework di Anthropic propone obblighi per gli sviluppatori dei modelli più capaci, tra cui:
- test sui rischi catastrofici;
- valutazioni da parte di soggetti esterni indipendenti;
- divulgazione continuativa di risultati delle valutazioni, rischi e incidenti di sicurezza;
- responsabilità verso le autorità pubbliche, con poteri di dissuadere o bloccare distribuzioni pericolose.
1
Anthropic ha inoltre impostato la propria Responsible Scaling Policy con una logica condizionale: se un modello mostra determinate capacità pericolose, non dovrebbe essere distribuito né seguito dall’addestramento di modelli ancora più potenti finché non siano predisposte protezioni adeguate. 8
L’obiezione: regole più rigide potrebbero favorire i rivali
Il dissenso non è soltanto tecnico: è anche geopolitico. Chi contesta un rallentamento sostiene che limiti severi possano avvantaggiare Stati rivali o aziende meno caute.
Il presidente statunitense Donald Trump ha riconosciuto che l’IA potrebbe richiedere alcuni paletti, ma ha ridimensionato gli scenari più allarmistici e ha detto di temere che gli Stati Uniti cedano il proprio vantaggio alla Cina. È la tensione centrale del dibattito: rallentare la frontiera dell’IA è una misura indispensabile di gestione del rischio, oppure una concessione strategica troppo costosa?
Cosa coglie — e cosa non dimostra — l’«AI doomerism»
L’espressione AI doomerism viene spesso usata per descrivere l’idea che un’IA avanzata possa generare rischi fino all’estinzione. L’etichetta può però semplificare eccessivamente la questione politica concreta: quali evidenze di capacità pericolose dovrebbero far scattare test ulteriori, limiti alla distribuzione o un intervento delle autorità?
L’argomento di Chughtai non dimostra che una catastrofe sia imminente. Sostiene invece che le conseguenze di un fallimento della sicurezza potrebbero essere irreversibili e che la concorrenza, da sola, potrebbe non produrre il livello di prudenza necessario. La risposta che propone è una governance coordinata: rallentare le distribuzioni quando serve, rafforzare le valutazioni e chiarire le responsabilità prima che i sistemi diventino più difficili da controllare. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "L’ex ricercatore DeepMind Bilal Chughtai lancia l’allarme sull’IA"?
Bilal Chughtai, che ha lasciato Google DeepMind nel luglio 2026, afferma che l’IA potrebbe «ucciderci tutti» e che il tempo per evitarlo potrebbe ridursi.
What are the key points to validate first?
Bilal Chughtai, che ha lasciato Google DeepMind nel luglio 2026, afferma che l’IA potrebbe «ucciderci tutti» e che il tempo per evitarlo potrebbe ridursi. Le sue parole si aggiungono agli allarmi di Jacob Coxon ed Evan Hubinger, ma non costituiscono una previsione scientifica né un consenso sulle probabilità di estinzione.
What should I do next in practice?
Lo scontro riguarda il ritmo dello sviluppo: più test, verifiche esterne e poteri di intervento secondo i sostenitori delle cautele; rischio di perdere terreno rispetto alla Cina secondo i critici.