L’appello di Amodei a frenare l’IA divide mercati e politica

L’appello di Dario Amodei, amministratore delegato di Anthropic, a rallentare il potenziamento dei modelli di intelligenza artificiale più avanzati è uscito rapidamente dal perimetro del dibattito tecnico sulla sicurezza. Ha prodotto una rara convergenza pubblica tra vertici del settore, spinto l’attesa quotazione di OpenAI oltre il 2026, messo sotto pressione i titoli esposti all’IA e ricevuto un netto rifiuto dal presidente Donald Trump. 1710

Che cosa propone Amodei

Amodei non chiede di interrompere la ricerca sull’IA. La sua proposta è di «dettare il passo alla frontiera»: moderare deliberatamente la velocità con cui i laboratori di frontiera aumentano le capacità dei modelli, così che sicurezza, supervisione e coordinamento possano recuperare terreno. Secondo Amodei, sistemi sempre più capaci potrebbero diventare più difficili da comprendere e controllare, soprattutto se l’IA contribuisse in misura rilevante a sviluppare la generazione successiva di IA. 177

Il piano prevede tre elementi principali:

1. Supervisione indipendente nei laboratori di frontiera. Anthropic ha dichiarato che consentirà a valutatori terzi un accesso permanente ai propri sistemi, a un livello assimilabile a quello dei dipendenti. Potranno verificare il rispetto delle misure di sicurezza, segnalare incidenti e valutare l’allineamento dei modelli durante l’addestramento. 17
2. Coordinamento tra le aziende che sviluppano IA di frontiera. Amodei chiede standard comuni di sicurezza e limiti pensati per evitare una corsa competitiva senza controlli. 17
3. Cooperazione internazionale. La proposta immagina una collaborazione tra governi per gestire i rischi dei sistemi più avanzati. 17

Il primo impegno è particolarmente significativo perché trasferisce una parte della valutazione della sicurezza al di fuori dei processi interni dell’azienda. Non si tratta di una verifica esterna una tantum, ma di accesso e scrutinio continuativi.

Altman sostiene l’appello e rinvia l’IPO di OpenAI

Il CEO di OpenAI, Sam Altman, ha espresso pubblicamente il proprio sostegno alla posizione di Amodei, scrivendo che anche OpenAI deve «dettare il passo alla frontiera». Le notizie hanno descritto la risposta come un segnale insolito di accordo tra concorrenti in corsa per sviluppare modelli sempre più potenti. 1

Altman ha accompagnato quel sostegno con una decisione aziendale dalle conseguenze rilevanti: OpenAI non si quoterà in Borsa nel 2026. Ha definito una IPO in questo momento «sconsigliabile», spiegando che l’azienda ha ancora molto lavoro da fare su sicurezza e allineamento. Reuters ha riportato che Altman considera inaccettabile persino una probabilità del 10% che l’IA causi l’estinzione umana entro la fine del decennio.

Sul piano pratico, il messaggio è chiaro: OpenAI presenta la sicurezza come una priorità potenzialmente superiore ai tempi di una delle quotazioni più attese del settore tecnologico. Non è però un calendario pubblico dettagliato per rallentare i modelli; è un impegno a favore di un ritmo più prudente.

Gli allarmi dei ricercatori prima della proposta

L’appello è arrivato dopo le dimissioni di Jacob Coxon, ricercatore che ha dichiarato di aver lavorato sulla ricerca di pre-addestramento sia in OpenAI sia in Anthropic. Coxon ha accusato le due aziende di «giocare d’azzardo con le nostre vite» nella corsa verso sistemi di IA capaci di migliorarsi autonomamente. 18

Nel dibattito sono intervenuti anche commenti di Evan Hubinger, responsabile dell’Alignment Science di Anthropic. Secondo quanto riportato da CNBC, Hubinger ha affermato di attribuire personalmente una probabilità superiore al 10% all’ipotesi che l’IA possa uccidere tutti gli esseri umani entro questo decennio. È una valutazione personale del rischio riportata nel dibattito pubblico, non una stima aziendale di Anthropic né una previsione dimostrata.

Questi avvertimenti hanno trasformato una discussione da tempo aperta — e spesso astratta — sui rischi catastrofici dell’IA in una questione immediata per i dirigenti delle aziende: continuare a massimizzare i guadagni di capacità mentre le salvaguardie sono ancora in fase di sviluppo oppure rallentare.

Perché sono scesi i titoli legati all’IA

Gli investitori hanno letto l’appello al rallentamento come una possibile sfida alle ipotesi alla base del cosiddetto AI trade: continui miglioramenti delle capacità dei modelli, grandi spese per la potenza di calcolo e domanda robusta di chip e infrastrutture. Dopo gli annunci sono scesi i titoli asiatici collegati all’IA, insieme ai future azionari statunitensi.

A Tokyo, SoftBank — importante investitore di OpenAI — ha perso fino al 13,2%, secondo Reuters. La stessa agenzia ha riferito che la reazione si è estesa ai titoli IA in tutta l’Asia. Altre rilevazioni hanno indicato future sul Nasdaq in calo di circa l’1,5% nel premercato, con i produttori di chip sotto pressione.

Il movimento di Borsa non dimostra che gli investimenti nell’IA o la domanda di semiconduttori siano destinati a crollare. Mostra piuttosto che il mercato ha rivalutato un rischio: se l’avanzamento dei modelli di frontiera venisse deliberatamente limitato o rinviato, ricavi e rendimenti attesi per sviluppatori di modelli, fornitori di infrastrutture e veicoli d’investimento focalizzati sull’IA potrebbero arrivare più tardi del previsto.

Trump respinge l’idea di rallentare

Trump ha respinto l’appello a frenare lo sviluppo, inquadrando l’IA soprattutto come una gara per la leadership strategica degli Stati Uniti contro la Cina. «Chi vince nell’IA, vince», ha detto, sostenendo che gli Stati Uniti sono in vantaggio e devono restarlo. 10

La risposta riassume il conflitto politico centrale. I sostenitori della sicurezza ritengono che più tempo per test, ricerca sull’allineamento e supervisione indipendente possa ridurre il rischio di danni gravi. I contrari al rallentamento temono invece che una moderazione unilaterale consegni un vantaggio a Stati o imprese che continuino a far progredire le capacità senza vincoli analoghi. 1710

Amodei ha riconosciuto che la mancata collaborazione internazionale — in particolare da parte di Paesi avversari come la Cina — è il problema più difficile per un sistema di rallentamento coordinato. Una politica applicata soltanto ad alcuni laboratori di frontiera potrebbe imporre costi commerciali e geopolitici alle imprese più attente alla sicurezza, lasciando però intatta la corsa alle capacità.

Che cosa cambia per le aziende IA e per i mercati

L’episodio lascia un intreccio inusuale di convergenze e conflitti:

• I leader dei laboratori concordano sulla necessità di misure di sicurezza più forti. Altman ha sostenuto Amodei, mentre Anthropic si è impegnata a introdurre valutazioni esterne integrate.
• I dettagli operativi restano da definire. Il sostegno pubblico al «dettare il passo» non crea di per sé soglie comuni, strumenti di applicazione o un accordo internazionale vincolante. 17
• L’IPO di OpenAI è stata direttamente coinvolta. Altman ha escluso una quotazione nel 2026, citando le priorità di sicurezza.
• Il percorso di Anthropic verso una quotazione resta meno chiaro nelle fonti disponibili. Le fonti confermano l’impegno sui valutatori e la proposta di policy più ampia, ma non dimostrano che Anthropic abbia modificato formalmente i tempi di una IPO a causa della disputa.

In definitiva, la questione non è semplicemente se l’IA debba progredire. Riguarda chi stabilisce il ritmo, quali prove indipendenti debbano essere richieste prima che i modelli diventino più capaci e se gli impegni sulla sicurezza possano resistere alla pressione commerciale e geopolitica a correre più veloci. 1710