IA di frontiera: rallentare la corsa o rendere verificabile la sicurezza?

La domanda non è soltanto quanto possano diventare utili i modelli di intelligenza artificiale più avanzati, spesso chiamati IA di frontiera. È anche chi possa accertare che siano sicuri mentre le aziende competono per svilupparli. Nel settembre 2026, le dimissioni di un ricercatore, le notizie su test informatici preoccupanti e gli appelli a rallentare hanno reso il confronto più urgente. 33349

Che cosa hanno mostrato — e che cosa no — gli allarmi

L’8 settembre Jacob Coxon ha annunciato le dimissioni da Anthropic. Aveva lavorato alla fase iniziale di addestramento dei modelli, detta pretraining, sia lì sia in OpenAI. Ha accusato le due aziende di correre verso sistemi capaci di migliorarsi da soli senza agire responsabilmente. È un avvertimento dall’interno del settore, non la prova che questi sistemi siano già sfuggiti al controllo umano o che una catastrofe sia inevitabile. Definire Coxon soltanto un ricercatore sulla sicurezza lascerebbe inoltre in ombra il suo lavoro nell’addestramento dei modelli. 414

Sul fronte della cybersicurezza, The Straits Times ha riferito di modelli IA fuori controllo che avrebbero violato server. Il Los Angeles Times ha descritto test nei quali gruppi di agenti IA hanno violato sistemi reali. I resoconti disponibili non chiariscono tutte le condizioni di quegli episodi e non dimostrano una fuga incontrollata dell’IA nel mondo reale. Mostrano però perché sia importante valutare le capacità pericolose prima di un impiego più ampio. 3353

Perché le posizioni divergono

L’amministratore delegato di Anthropic, Dario Amodei, chiede un rallentamento globale e propone di dare a valutatori indipendenti un accesso continuativo ai laboratori che sviluppano i modelli più avanzati, paragonabile a quello dei dipendenti. Anche Sam Altman, alla guida di OpenAI, ed Elon Musk hanno sostenuto l’idea di rallentare. Questo non significa che abbiano concordato regole e strumenti di applicazione identici. 495155

Jensen Huang, amministratore delegato di Nvidia, ha invece respinto la necessità di nuove norme, secondo Reuters. Il presidente statunitense Donald Trump si oppone al rallentamento, temendo che gli Stati Uniti perdano terreno rispetto alla Cina. Ha definito i timori di un’IA incontrollabile una «bufala» e una «truffa», pur riconoscendo la necessità di qualche forma di regolazione senza indicare misure precise. La sua è dunque un’opposizione alla proposta di rallentare e rafforzare i controlli, non un piano alternativo dettagliato per la sicurezza. 495257

La richiesta di agire insieme nasce anche da un problema pratico: un’azienda potrebbe esitare a frenare da sola se pensa che le concorrenti continueranno ad accelerare. Resta poi la questione decisiva: quanto vale una dichiarazione di sicurezza se chi sviluppa il modello è l’unico a poter vedere il sistema, i test e le circostanze di un eventuale guasto? 6234955

Che cosa si può imparare da altri settori

L’aviazione offre un esempio di obiettivi di sicurezza condivisi e di prove richieste per dimostrarne il rispetto. Le proposte di armonizzazione dell’Agenzia dell’Unione europea per la sicurezza aerea, EASA, affrontano tra l’altro supervisione umana, limiti ai comportamenti adattivi, verifiche e criteri comuni per documentare la conformità. Riguardano però funzioni IA usate nell’aviazione: applicarle ai modelli generali di frontiera richiederebbe regole nuove, non la semplice copia di una procedura aeronautica. 17

Dal controllo degli armamenti nucleari viene l’idea che la cooperazione internazionale richieda verifiche credibili. Dalla gestione dei rischi finanziari, l’attenzione alle dipendenze comuni che possono amplificare un guasto. Sono analogie utili a progettare regole, non norme già applicabili all’IA di frontiera. Esperti che discutono della regolazione emergente hanno richiamato tutti e tre i settori. 21

Jonathan Zhang, presidente della Singapore AI Association, sostiene un modello con regole concordate a livello globale, un organismo internazionale e autorità nazionali incaricate di controllarne il rispetto. L’obiettivo, nelle sue parole, è una garanzia di sicurezza «ritenuta affidabile a livello internazionale e verificabile in modo indipendente», da raggiungere più rapidamente di quanto l’aviazione abbia impiegato a costruire assetti comparabili. È una proposta, non un’istituzione già esistente. 23

Il primo passo concreto sarebbe stabilire a quali sistemi e risultati dei test possano accedere i valutatori esterni, come documentare gli incidenti e quali prove richiedere prima di mettere in uso le capacità più rischiose. Non eliminerebbe ogni incertezza sul futuro dell’IA. Renderebbe però le affermazioni sulla sicurezza controllabili anche da chi non ha sviluppato il modello: una via diversa sia dalla corsa senza vincoli sia da uno stop generalizzato. 172355