AnswersPublished22 sources
IA e rischio estinzione: perché gli allarmi dall’interno dividono il settore
Non esiste una probabilità scientificamente misurata dell’estinzione umana causata dall’IA: la stima superiore al 10% in dieci anni di Evan Hubinger è un giudizio personale, non una previsione validata. Le dimissioni di Jacob Coxon e l’allarme di Bilal Chughtai hanno acceso il confronto, ma gli scettici osservano ch...
Pubblicato daModificato con GPT-5.6 TerraImmagini generate con GPT Image 2
Research answer
Key takeaways
- Non esiste una probabilità scientificamente misurata dell’estinzione umana causata dall’IA: la stima superiore al 10% in dieci anni di Evan Hubinger è un giudizio personale, non una previsione validata.
- Le dimissioni di Jacob Coxon e l’allarme di Bilal Chughtai hanno acceso il confronto, ma gli scettici osservano che l’abilità digitale non equivale automaticamente alla capacità di agire e causare danni nel mondo fisico.
- Il possibile terreno comune punta a controlli esterni reali, soglie basate sulle capacità pericolose, coordinamento tra i laboratori e interventi contro gli abusi già attuali.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Il confronto sul rischio di estinzione legato all’intelligenza artificiale non si riduce a una contrapposizione tra chi ritiene l’IA sicura e chi la ritiene pericolosa. La disputa riguarda soprattutto la velocità con cui potrebbero crescere le capacità dei modelli, la catena di eventi necessaria perché un sistema provochi danni irreversibili e il livello di prova richiesto prima di imporre limiti più severi.
I recenti avvertimenti di persone che hanno lavorato nei principali laboratori di IA hanno reso la discussione più urgente. Ma anche diversi critici della retorica sull’estinzione sostengono test e pratiche di sicurezza. La domanda politica più concreta sta diventando un’altra: chi sviluppa questi sistemi può dimostrare di saperli controllare e distribuire in modo sicuro man mano che diventano più potenti?
Gli avvertimenti dall’interno: una corsa verso sistemi forse ingestibili
Jacob Coxon, ricercatore che ha lasciato Anthropic e che ha dichiarato di aver lavorato anche in OpenAI, ha sostenuto che le due aziende stiano anteponendo la competizione a uno sviluppo responsabile. A suo avviso, sarebbero impegnate in una corsa verso una «superintelligenza auto-migliorante». 49
L’allarme ha ricevuto il sostegno pubblico di Evan Hubinger, responsabile della scienza dell’allineamento in Anthropic. Hubinger ha detto di stimare personalmente a oltre il 10% la probabilità che l’IA possa uccidere tutti gli esseri umani entro il prossimo decennio; ha anche affermato che Anthropic non dispone ancora di un piano per risolvere il problema dell’allineamento di una superintelligenza. 16 La sua stima va però letta per ciò che è: una previsione individuale, non un consenso scientifico né una probabilità di estinzione calcolata empiricamente.
12
Bilal Chughtai, ex ricercatore di Google DeepMind, ha espresso un timore analogo: secondo lui l’IA ha il potenziale per uccidere tutti e il tempo per evitare questo esito potrebbe esaurirsi. 2
Queste tesi sono in genere condizionali: non sostengono che gli attuali chatbot diventeranno all’improvviso pericolosi da soli. Lo scenario temuto è che sistemi futuri possano accelerare in modo sostanziale la ricerca sull’IA, agire con maggiore autonomia, sottrarsi a una supervisione umana efficace oppure amplificare l’accesso a capacità informatiche, biologiche e istituzionali più rapidamente di quanto migliorino le misure di sicurezza. È proprio sulla plausibilità e sui tempi di questa sequenza che si concentra il dissenso.
Perché quel 10% non è una previsione consolidata
La cifra indicata da Hubinger ha attirato attenzione perché è netta e proviene da un ricercatore senior che lavora sull’allineamento. Non equivale però a una probabilità confermata da dati storici o prodotta da un modello in grado di misurare il rischio di estinzione. 12
Quella valutazione dipende da vari presupposti ancora aperti al dibattito:
- i sistemi di IA dovrebbero diventare molto più capaci di quelli disponibili oggi;
- tali capacità dovrebbero trasformarsi in autonomia strategica durevole o in potere dannoso nel mondo reale;
- controlli tecnici, operatori umani, istituzioni e contromisure dovrebbero fallire nel contenere il sistema o il suo uso improprio;
- ricerca sulla sicurezza e sull’allineamento dovrebbero restare indietro rispetto ai progressi delle capacità.
Ogni passaggio può essere discusso separatamente. Questo non rende la preoccupazione irrilevante; significa però che un numero d’impatto non va confuso con una previsione dimostrata.
La tesi degli scettici: intelligenza digitale non significa potere nel mondo fisico
Gli scettici contestano il passaggio da buone prestazioni nel software e nel linguaggio alla capacità di provocare danni fisici su scala catastrofica. Un esempio ricorrente riguarda la biologia. Eric Xing ha osservato che produrre con un modello linguistico una bozza ipotetica del genoma di un virus è cosa profondamente diversa dal creare un virus vitale: ottenere materiali, fabbricare, verificarne la vitalità biologica, lavorare in laboratorio e testare sono ostacoli distinti. 46
La distinzione conta. Un modello può fornire informazioni o progetti, ma trasformarli in un danno reale può richiedere strutture specialistiche, conoscenze tacite, filiere di approvvigionamento, esperimenti ripetuti e accesso a materiali controllati. Questi vincoli non implicano che i rischi per la biosicurezza siano nulli; mettono però in discussione l’idea che la sola capacità digitale generi immediatamente un potere fisico decisivo.
Jensen Huang, amministratore delegato di Nvidia, è stato tra i critici più espliciti delle tesi sull’estinzione, definendo «completa assurdità» l’idea che l’IA porrà fine all’umanità. 33 Mark Cuban ha invece sostenuto che le reazioni umane a dichiarazioni allarmistiche potrebbero essere più pericolose degli stessi sciami di agenti IA.
43
La posizione scettica, quindi, non coincide necessariamente con l’idea che l’IA di frontiera non richieda protezioni. Sostiene piuttosto che affermazioni eccezionali su un’estinzione imminente richiedano prove più solide delle estrapolazioni dalle prestazioni dei modelli odierni e di percorsi futuri ipotetici.
La posizione intermedia: rallentare le capacità e verificare la sicurezza
Una risposta più operativa arriva da chi non considera l’estinzione né certa né impossibile. Dario Amodei, CEO di Anthropic, ha chiesto di rallentare il ritmo di miglioramento delle capacità dei modelli, così da guadagnare tempo per il lavoro sulla sicurezza. Il suo schema propone valutatori indipendenti inseriti nelle aziende con un accesso paragonabile a quello dei dipendenti e il coordinamento tra le imprese che sviluppano IA di frontiera. 18
Reuters ha riferito che anche il CEO di OpenAI Sam Altman figura tra i leader favorevoli a un rallentamento coordinato, mentre l’industria resta divisa sul grado di affidamento da riporre nelle protezioni guidate dal mercato. 19 Secondo altre ricostruzioni, Altman ha appoggiato l’uso di valutatori esterni nell’ambito della proposta.
20
Questo approccio sposta la discussione dalle previsioni astratte a pratiche verificabili:
- Valutazioni indipendenti: offrire a revisori esterni qualificati un accesso significativo per esaminare le dichiarazioni sulla sicurezza, senza basarsi soltanto sulle comunicazioni delle aziende.
18
- Soglie basate sulle capacità: intensificare i controlli o limitare la diffusione quando i modelli compiono progressi rilevanti in aree pericolose, come operazioni informatiche offensive o comportamenti da agente autonomo.
- Coordinamento tra laboratori: ridurre l’incentivo a sacrificare margini di sicurezza per non perdere terreno rispetto ai concorrenti.
- Cooperazione internazionale: coordinare standard tra governi e principali sviluppatori di IA, anche con accordi che riducano la pressione competitiva a distribuire sistemi senza garanzie adeguate.
27
- Sicurezza al passo con le capacità: considerare controllo dimostrabile, monitoraggio e capacità di risposta come requisiti che devono crescere insieme alla potenza dei sistemi.
I timori a lungo termine distraggono dai danni già presenti?
Un’altra critica riguarda le priorità. Anche ammettendo che i rischi catastrofici meritino ricerca e piani di emergenza, un’attenzione esclusiva a scenari di estinzione ancora speculativi può oscurare danni già associati ai sistemi di IA avanzati e al loro impiego.
L’agenda immediata comprende abusi informatici, frodi, sorveglianza, disinformazione, decisioni automatizzate discriminatorie, trasformazioni del lavoro e concentrazione del potere. Lo stesso Amodei ha citato rischi di abuso quali sviluppo di armi, attacchi informatici e sorveglianza nel sostenere la necessità di rallentare. 29
Non è necessariamente una scelta tra danni presenti e rischi catastrofici di lungo periodo. Le garanzie più robuste possono intervenire su entrambi: controlli di accesso più efficaci, valutazioni migliori, politiche di distribuzione prudenti, esame indipendente, segnalazione degli incidenti e responsabilità chiare possono ridurre gli abusi attuali e preparare meglio a sistemi più capaci.
Che cosa cambia davvero nel dibattito
La conclusione più solida non è che l’estinzione sia dimostrata, né che possa essere liquidata perché non è stato provato un intero percorso catastrofico. Dalle evidenze disponibili emerge uno standard pratico: le affermazioni di sicurezza per sistemi sempre più capaci devono essere verificabili, sottoposte a scrutinio indipendente e proporzionate alla gravità del danno potenziale.
Coxon, Hubinger e Chughtai sostengono la prudenza nell’incertezza. Scettici come Huang e Xing contestano che le prove attuali giustifichino conclusioni apocalittiche a breve termine. Amodei e Altman indicano una risposta che non richiede di risolvere prima ogni disaccordo filosofico: rallentare la frontiera, misurare le capacità pericolose, ammettere una revisione esterna credibile e coordinarsi prima che la pressione competitiva trasformi dichiarazioni di sicurezza non verificate nella base ordinaria per distribuire nuovi sistemi. 49
16
33
18
19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "IA e rischio estinzione: perché gli allarmi dall’interno dividono il settore"?
Non esiste una probabilità scientificamente misurata dell’estinzione umana causata dall’IA: la stima superiore al 10% in dieci anni di Evan Hubinger è un giudizio personale, non una previsione validata.
What are the key points to validate first?
Non esiste una probabilità scientificamente misurata dell’estinzione umana causata dall’IA: la stima superiore al 10% in dieci anni di Evan Hubinger è un giudizio personale, non una previsione validata. Le dimissioni di Jacob Coxon e l’allarme di Bilal Chughtai hanno acceso il confronto, ma gli scettici osservano che l’abilità digitale non equivale automaticamente alla capacità di agire e causare danni nel mondo fisico.
What should I do next in practice?
Il possibile terreno comune punta a controlli esterni reali, soglie basate sulle capacità pericolose, coordinamento tra i laboratori e interventi contro gli abusi già attuali.
Sources
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns