Cosa significa davvero “pace the frontier” per Dario Amodei

Dario Amodei, CEO di Anthropic, non chiede di mettere in pausa l’addestramento dei modelli né di fermare il progresso tecnico. Nel saggio We Must Pace the Frontier sostiene invece che vada ridotta deliberatamente la velocità con cui migliorano le capacità dell’IA di frontiera, cioè i sistemi più potenti e avanzati. L’obiettivo è guadagnare tempo per allineamento, sicurezza informatica, verifiche indipendenti e governance pubblica. 7

L’idea centrale: rallentare i salti di capacità e usare bene il tempo guadagnato

Per Amodei, “pacing” non equivale a una moratoria. Significa allentare la cadenza dei grandi avanzamenti di capacità, così che laboratori e governi possano accertare l’efficacia delle misure di sicurezza prima della diffusione di sistemi ancora più potenti. Il progresso resterebbe rapido, ma anche uno o due anni in più potrebbero ridurre sensibilmente il rischio di gravi fallimenti, se impiegati per migliorare allineamento e protezioni. 67

La preoccupazione nasce anche da quella che Amodei descrive come auto-miglioramento ricorsivo: sistemi di IA che contribuiscono in modo crescente alla ricerca e all’ingegneria necessarie per creare la generazione successiva di IA. Secondo Amodei, questa dinamica potrebbe superare la capacità umana di comprendere, valutare e controllare i sistemi avanzati. 7

L’allarme sugli agenti autonomi: sei-dodici mesi

Il passaggio più allarmante del saggio riguarda gli agenti autonomi. Amodei scrive che, con l’attuale ritmo di sviluppo, entro sei-dodici mesi uno sciame di agenti sufficientemente capace potrebbe potenzialmente impadronirsi di gran parte di internet tramite una botnet persistente, causando danni per centinaia di miliardi di dollari. 7

È una previsione su una capacità futura possibile, non la prova che un simile attacco sia già avvenuto. Il punto pratico è che i rischi di uso improprio nel cyberspazio e di perdita di controllo potrebbero emergere più rapidamente dei normali tempi della politica e delle comunicazioni volontarie delle imprese. 717

Il piano in tre punti di Amodei

1. Valutatori indipendenti all’interno dei laboratori di frontiera

La prima misura, e la più immediata, è consentire a valutatori terzi qualificati un accesso continuativo, paragonabile a quello di un dipendente, ai laboratori che sviluppano IA di frontiera. Potrebbero esaminare le pratiche di sicurezza, valutare i modelli e segnalare incidenti, senza dipendere soltanto da sintesi pubbliche selezionate dalle aziende. Anthropic ha dichiarato che adotterà unilateralmente questo passaggio. 17

L’idea è rendere verificabili le affermazioni sulla sicurezza e avvicinare il controllo esterno al lavoro quotidiano di sviluppo, quando eventuali lacune possono ancora essere individuate prima di una diffusione su larga scala.

2. Standard condivisi tra le democrazie

Il secondo punto è il coordinamento fra aziende e governi dei Paesi democratici su standard comuni di sicurezza e criteri di rallentamento. Poiché una concertazione diretta fra concorrenti può creare problemi di diritto antitrust, Amodei ha chiesto il sostegno del governo statunitense per consentire una collaborazione sulla sicurezza, delimitata con precisione.

Lo scopo è ridurre l’incentivo per una società a comprimere i tempi della sicurezza solo perché i rivali corrono più veloce. In questa prospettiva, il rischio dell’IA di frontiera è un problema di azione collettiva: un laboratorio può riconoscere il valore della prudenza, ma sentirsi comunque costretto a competere se gli altri non hanno vincoli.

3. Cercare, alla fine, una cooperazione con gli Stati autoritari

Il terzo passaggio è il più difficile: trovare una qualche forma di cooperazione con governi autoritari, inclusa la Cina. Amodei sostiene che una soluzione duratura non possa limitarsi alle sole democrazie, perché un rallentamento unilaterale potrebbe essere strategicamente pericoloso se progetti rivali sostenuti da altri Stati continuassero ad avanzare senza limiti comparabili. 7

Al tempo stesso, la cooperazione pone problemi enormi di fiducia e sicurezza nazionale. Condividere metodi sensibili di sicurezza, procedure di valutazione o accesso per le verifiche potrebbe rafforzare un concorrente strategico. La Cina rende quindi evidente il dilemma centrale del piano: un accordo globale può essere difficile da verificare; un accordo tra sole democrazie può rivelarsi instabile o rischioso sul piano geopolitico. 7

Chi ha appoggiato l’invito

Secondo NPR, il CEO di OpenAI Sam Altman ha dichiarato pubblicamente di condividere l’invito di Amodei a “pace the frontier” e ha affermato che OpenAI seguirà il percorso dei valutatori terzi integrati. 17 Anche Elon Musk, fondatore di xAI, è stato indicato tra i sostenitori di un rallentamento dello sviluppo per permettere alle misure di sicurezza di recuperare terreno. 5

Le fonti fornite non offrono invece prove altrettanto solide di un sostegno specifico da parte di Demis Hassabis, presidente di Google DeepMind. Non è quindi corretto presentarlo qui come un sostenitore accertato della proposta.

Perché il saggio arriva ora

Amodei collega la sua argomentazione ai rapidi progressi nelle capacità dell’IA e ai timori sul comportamento degli agenti autonomi, compresi resoconti di agenti coinvolti in attività informatiche non autorizzate. Il saggio è arrivato inoltre dopo le dimissioni del ricercatore di Anthropic Jacob Coxon, che aveva criticato l’approccio ai rischi dell’IA adottato dai grandi laboratori e aveva lasciato il settore. 18

Questi eventi non dimostrano che l’IA avanzata sia incontrollabile. Mostrano però la pressione che sta dietro alla tesi di Amodei: il dibattito sulla sicurezza non riguarda più soltanto sistemi ipotetici e lontani, ma anche il comportamento operativo degli agenti attuali e di quelli nel prossimo futuro.

Il legame con IPO e governance

La sicurezza è direttamente rilevante per le ambizioni sui mercati pubblici delle aziende di IA di frontiera: fallimenti di governance, incidenti informatici, interventi normativi e danni reputazionali possono trasformarsi in rischi aziendali rilevanti. Reuters ha riferito che Anthropic ha presentato in via confidenziale la documentazione per una IPO negli Stati Uniti il 1º giugno e che OpenAI ha effettuato una presentazione confidenziale propria la settimana successiva. 20

Tempi e stato di una quotazione restano però variabili. Reuters ha poi riportato che Altman ha escluso un’IPO di OpenAI nel 2026, citando preoccupazioni per la sicurezza dell’IA. 19 Per gli investitori, la questione decisiva non è soltanto quando arriverà una quotazione, ma se l’azienda saprà dimostrare controlli credibili su modelli il cui valore commerciale e i cui potenziali rischi aumentano rapidamente.

Cosa metterebbe alla prova il “pacing”

La proposta di Amodei è, in definitiva, un test: gli sviluppatori di IA di frontiera sono in grado di accettare vincoli prima che un grave fallimento li renda inevitabili? Il primo passo, quello dei valutatori esterni integrati, è relativamente concreto e osservabile. Il coordinamento tra democrazie e la cooperazione finale con gli Stati autoritari sono molto più complessi, perché dipendono da politica della concorrenza, sicurezza nazionale e fiducia internazionale.

L’argomento di Amodei non è che rallentare l’IA sia semplice. È che continuare ad accelerare senza salvaguardie verificabili in modo indipendente potrebbe essere la scelta più rischiosa. 7