Trump contro il rallentamento dell’IA, mentre Amodei invoca controlli sui modelli più avanzati

Donald Trump interpreta il dibattito sull’intelligenza artificiale avanzata soprattutto attraverso la rivalità con la Cina. In dichiarazioni pubbliche ha detto che gli Stati Uniti devono restare leader del settore, perché «chi vince l’IA, vince». In seguito ha definito una «BUFALA» l’idea che l’IA possa conquistare il mondo o distruggere l’umanità e ha descritto l’opposizione all’IA e ai data center come una cospirazione «MALATA» che favorirebbe la Cina. 1719

Perché Trump ha attaccato Dario Amodei

La risposta di Trump è arrivata dopo l’appello del CEO di Anthropic, Dario Amodei, a rallentare deliberatamente il ritmo con cui migliorano i sistemi di IA più potenti. Le due posizioni partono da priorità diverse: Trump mette al primo posto il primato tecnologico statunitense; Amodei ritiene invece che le capacità dei modelli possano crescere più rapidamente degli strumenti efficaci per valutarli, renderli sicuri e sottoporli a controllo. 17

Trump ha inoltre sostenuto che le autorità penali e regolatorie già esistenti siano ampie e che la migliore garanzia sia un presidente forte. La sua critica ad Amodei combina dunque lo scetticismo verso gli avvertimenti sui rischi esistenziali con il timore che restrizioni formali indeboliscano le imprese statunitensi rispetto ai concorrenti cinesi. 1921

Cosa propone «We Must Pace the Frontier»

Amodei non propone di interrompere la ricerca sull’IA. Il suo piano in tre punti chiede di frenare gli incrementi non controllati delle capacità dei modelli, così da dare tempo a sicurezza, test e governance di raggiungere il passo.

1. Valutatori indipendenti permanenti nei laboratori che sviluppano i modelli di frontiera. Anthropic ha detto che concederà a valutatori terzi un accesso continuativo ai propri sistemi equivalente a quello di un dipendente. Dovranno verificare le pratiche di sicurezza, segnalare incidenti e valutare l’allineamento dei modelli durante l’addestramento, cioè la loro aderenza agli obiettivi e ai vincoli stabiliti. 16
2. Coordinamento fra le aziende che guidano lo sviluppo dell’IA. Il piano chiede ai principali laboratori di definire standard comuni di sicurezza e limiti allo sviluppo non controllato, invece di competere esclusivamente per aumentare più in fretta le capacità dei modelli.
3. Cooperazione internazionale. Per Amodei, gestire i rischi più gravi richiederà in ultima analisi intese che vadano oltre un singolo Paese o blocco geopolitico.

Il primo punto è presentato come un impegno immediato di Anthropic, non soltanto come una proposta rivolta ai governi o ai concorrenti. 16

Le reazioni degli altri leader del settore

Sam Altman, CEO di OpenAI, ha dichiarato di condividere la necessità di «dare un ritmo» alla frontiera tecnologica e ha detto che OpenAI offrirà a sua volta accesso a valutatori esterni. Anche Elon Musk, alla guida di xAI, ha espresso il proprio accordo con Amodei.

Satya Nadella, CEO di Microsoft, ha accolto positivamente l’idea di un avanzamento più deliberato e di valutatori inseriti stabilmente nelle aziende, ma ha aggiunto una condizione importante: la supervisione non dovrebbe essere nelle mani di un ristretto numero di società. Secondo Nadella, qualunque ricerca della superintelligenza deve essere utile all’umanità e restare sotto controllo umano.

Queste prese di posizione non costituiscono ancora un regime regolatorio condiviso. Mostrano però che diversi protagonisti dell’industria sostengono controlli più strutturati e continuativi sui sistemi più avanzati.

Il nodo del coordinamento: Cina e freni unilaterali

Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha affermato che le persone impegnate nello sviluppo di questi sistemi sono «genuinamente spaventate» per il futuro dell’umanità. Ha accolto favorevolmente l’ipotesi di rallentare, ma ha sottolineato che servirebbe un coordinamento con la Cina. 1

Qui sta il problema centrale: un’azienda o un Paese che rallenti da solo può temere di perdere terreno rispetto a rivali che non accettano gli stessi vincoli. Il ministero degli Esteri cinese ha respinto la richiesta di Amodei di limitare le capacità cinesi nell’IA, interpretandola come un tentativo degli Stati Uniti di contenere Pechino, non come una governance neutrale della sicurezza. 4

Ne deriva un problema di fiducia. Per i sostenitori, regole reciproche ridurrebbero i rischi; per gli oppositori, le stesse regole possono apparire come uno strumento per conservare il vantaggio tecnologico dell’altra parte.

L’obiezione: la sicurezza può proteggere chi è già dominante

L’investitore Michael Burry ha definito la campagna per il rallentamento «interessata». La sua tesi è che uno sviluppo più lento e requisiti di conformità più onerosi possano favorire le grandi aziende di IA già affermate, rendendo più difficile ai nuovi concorrenti entrare nel mercato. Burry contesta inoltre l’idea che gli attuali grandi modelli linguistici siano sulla strada verso l’intelligenza artificiale generale, o AGI.

Questa critica non smentisce di per sé le preoccupazioni sulla sicurezza dell’IA. Evidenzia però un rischio concreto di policy: norme progettate per rendere più sicuro lo sviluppo dei modelli di frontiera potrebbero anche consolidare il potere delle aziende meglio attrezzate per rispettarle. Un quadro credibile dovrebbe quindi affrontare sia la sicurezza sia la concentrazione di potere.

Perché contava l’incontro previsto fra Trump e Xi

Trump e il leader cinese Xi Jinping avrebbero dovuto discutere anche di governance dell’IA in un incontro previsto per il 24 settembre. 4 La rilevanza dell’appuntamento sta nel fatto che la parte più difficile di una strategia di sicurezza per l’IA di frontiera non è scrivere una norma per un singolo laboratorio: è costruire accordi che potenze rivali considerino reciproci e applicabili.

L’impostazione di Trump, centrata sulla competizione con la Cina, e l’obiezione di Pechino a limiti sul proprio sviluppo dell’IA indicano quanto sia arduo arrivarci. Il dibattito va quindi oltre l’alternativa tra accelerare e mettere in pausa: riguarda la possibilità di governare la corsa all’IA senza trasformare la sicurezza in un ulteriore terreno di scontro geopolitico. 174