Un organismo comune per la sicurezza dell’IA? Cosa propongono davvero Anthropic, OpenAI e DeepMind

Le notizie pubbliche indicano una convergenza concreta tra Anthropic, OpenAI e Google DeepMind su un punto essenziale: i modelli di IA più capaci dovrebbero essere esaminati anche da soggetti esterni, non soltanto dai controlli interni delle aziende, prima di arrivare al pubblico. Ma non dimostrano che le tre società abbiano già creato un nuovo regolatore comune, né che abbiano concordato test vincolanti, soglie di rilascio, accesso agli audit o sanzioni per chi non rispetta le regole. 811

La differenza è sostanziale: condividere l’idea delle valutazioni non equivale a istituire un organismo con il potere di farle rispettare.

La proposta, in parole semplici

Secondo le ricostruzioni disponibili, le aziende tengono dal luglio 2026 incontri a livello operativo su un organismo guidato dall’industria per definire standard sull’IA di frontiera: i sistemi più avanzati, con capacità che possono creare rischi eccezionali. L’obiettivo apparente è un metodo comune per valutare capacità pericolose prima della distribuzione pubblica, soprattutto in ambiti quali operazioni informatiche, uso improprio in campo biologico, inganno e altri scenari ad alto impatto. 811

Il modello istituzionale più esplicito è quello illustrato pubblicamente da Demis Hassabis, CEO di Google DeepMind: una Frontier AI Standards Body a guida statunitense, ispirata a FINRA, l’organizzazione di autoregolamentazione del settore finanziario negli Stati Uniti. La proposta prevede un ente finanziato dall’industria ma sottoposto a supervisione federale, incaricato di testare i modelli di frontiera prima del lancio. Inizialmente le adesioni sarebbero volontarie; l’obbligo potrebbe arrivare solo dopo che il protocollo di valutazione abbia dimostrato la propria affidabilità. 9

Non risultano però accordi pubblici sui dettagli che renderebbero il sistema davvero operativo e credibile:

• quali modelli debbano passare la revisione;
• quali test tecnici siano obbligatori;
• quanto accesso ricevano i valutatori esterni;
• quali risultati possano bloccare, rinviare o condizionare un rilascio;
• chi finanzi e governi l’ente;
• quanto siano indipendenti i valutatori dalle aziende esaminate;
• quali garanzie giuridiche e forme di vigilanza pubblica si applichino.

Finché questi interrogativi restano senza risposta, parlare di un regolatore congiunto già funzionante andrebbe oltre le prove disponibili.

Il punto di accordo: verifiche esterne prima del rilascio

L’area di maggiore allineamento è il testing indipendente prima della pubblicazione. Axios ha riferito a luglio che Dario Amodei, Sam Altman e Demis Hassabis sostenevano in linea generale un controllo esterno dei modelli di frontiera prima della loro messa a disposizione del pubblico, superando un sistema fondato soprattutto sulle autodichiarazioni delle aziende. 8

È un passaggio importante: per la sicurezza non basta sapere che lo sviluppatore ha eseguito dei test. Serve che un soggetto indipendente possa riprodurre, verificare o contestare quei risultati. Un sistema credibile richiederebbe protocolli chiari, accesso effettivo ai sistemi e conseguenze definite quando un modello supera una soglia di rischio.

Le tre aziende inquadrano inoltre la questione in termini internazionali. Le loro proposte riconoscono una tensione strategica: limiti imposti unilateralmente dagli Stati Uniti possono essere politicamente difficili da sostenere se sviluppatori concorrenti all’estero non sono soggetti a vincoli comparabili. Il piano di Hassabis è esplicitamente a guida statunitense; Amodei sostiene invece che le sole tutele nazionali non possano gestire sistemi distribuibili su scala globale. 91

Le divergenze sulla governance

Dietro il linguaggio comune sulla sicurezza c’è un disaccordo di fondo: si tratta soprattutto di un quadro volontario creato dall’industria, di un sistema sostenuto dal governo oppure di un regolatore dotato di poteri reali?

Il modello proposto da DeepMind è finanziato dall’industria ma supervisionato a livello federale. Immagina una fase iniziale volontaria, con la possibilità che in seguito la revisione diventi un requisito per distribuire un modello. 9

La proposta di Amodei punta invece su valutatori indipendenti incorporati nei laboratori che sviluppano IA di frontiera e su un coordinamento tra aziende operanti nelle democrazie, con l’appoggio dei governi quando necessario. 12

I resoconti dei colloqui descrivono OpenAI come disponibile a un’iniziativa industriale senza attendere che il governo completi un intero quadro normativo. 11 Sam Altman ha anche sostenuto pubblicamente l’idea di valutatori indipendenti con un livello di accesso simile a quello dei dipendenti, dopo il saggio di Amodei.

Non sono differenze marginali. Un accordo volontario può essere avviato rapidamente e favorire pratiche tecniche comuni. Senza governance indipendente e autorità pubblica, però, potrebbe non riuscire a imporre l’accesso ai sistemi, risolvere controversie, evitare conflitti d’interesse o fermare un’azienda intenzionata a rilasciare un modello nonostante un giudizio di sicurezza negativo.

Il Frontier Model Forum non prova l’esistenza di un nuovo regolatore

Il Frontier Model Forum esiste già come organismo industriale che coinvolge grandi aziende dell’IA. Tra i suoi obiettivi dichiarati figurano l’avanzamento della ricerca sulla sicurezza, lo sviluppo di valutazioni e buone pratiche e la condivisione di informazioni con decisori politici e settore privato.

Potrebbe quindi essere una sede plausibile per il coordinamento. Ma la sua esistenza non dimostra, da sola, che sia nato un nuovo ente indipendente o che un sistema di audit tra aziende sia vincolante. La questione decisiva è se le società creeranno un organismo che si limiti a produrre linee guida oppure uno capace di valutare autonomamente i modelli e imporre condizioni significative al loro rilascio.

Perché il saggio di Amodei ha cambiato il dibattito pubblico

Il 12 settembre, Dario Amodei, CEO di Anthropic, ha pubblicato il saggio di circa 3.800 parole We Must Pace the Frontier. La tesi è che l’aumento delle capacità dell’IA debba rallentare, per dare alle pratiche di sicurezza il tempo di raggiungerlo. 52

Amodei ha avvertito che, entro sei-dodici mesi, uno sciame automatizzato di agenti IA più capaci potrebbe potenzialmente assumere il controllo di Internet. Va letto come previsione e avvertimento sui rischi, non come un risultato tecnico già dimostrato. 513

Il suo percorso si articola in tre punti:

1. Inserire valutatori indipendenti nei laboratori di frontiera, con accesso simile a quello dei dipendenti, per testare i sistemi, individuare fallimenti di sicurezza e verificare la conformità. 12
2. Coordinare standard e limiti comuni tra aziende IA nei Paesi democratici, con sostegno dei governi dove necessario. 216
3. Cercare un coordinamento internazionale più ampio, anche con governi autoritari, perché i modelli avanzati e i relativi rischi sono distribuibili globalmente. 115

Anthropic ha dichiarato che offrirà ai valutatori terzi un accesso permanente, di livello assimilabile a quello dei dipendenti. È un impegno più forte di un singolo test esterno; la sua credibilità pratica dipenderà però da chi seleziona i valutatori, da cosa possano ispezionare, dalla possibilità di pubblicare le conclusioni e dalle conseguenze nel caso individuino un rischio inaccettabile. 122

La prova decisiva: responsabilità e indipendenza

L’obiezione centrale dei critici è semplice: le aziende in competizione per costruire i sistemi più capaci potrebbero al tempo stesso contribuire a scrivere, amministrare e interpretare le regole applicate ai propri prodotti.

Un organismo di sicurezza sarebbe più credibile con una guida tecnica indipendente, metodi di valutazione trasparenti, protezioni dall’influenza delle aziende, una vigilanza pubblica effettiva e poteri chiari per intervenire dopo una valutazione negativa. Senza questi elementi, standard condivisi potrebbero migliorare le pratiche, ma restare lontani da una responsabilità realmente indipendente.

L’AI Safety Index dell’estate 2026 del Future of Life Institute mostra perché lo scetticismo persiste: Anthropic ha ricevuto C+, OpenAI C e Google DeepMind C. Nessuno dei laboratori valutati ha ottenuto un voto superiore a C+. 17

Il senatore statunitense Bernie Sanders ha sostenuto che rallentare non basti, chiedendo invece una pausa nello sviluppo dell’IA avanzata e un divieto dell’intelligenza artificiale superintelligente. È una posizione molto più restrittiva delle proposte dei laboratori, ma mette in evidenza la distanza tra un rallentamento volontario e limiti effettivamente applicabili.

Cosa osservare ora

I prossimi segnali rilevanti non saranno nuove dichiarazioni di principio, ma impegni istituzionali verificabili:

• uno statuto di governance pubblicato;
• valutatori indipendenti nominati;
• test standardizzati sulle capacità e sugli usi impropri;
• regole sull’accesso agli audit e sulla divulgazione dei risultati;
• soglie di rilascio e obblighi di correzione;
• una risposta esplicita alla domanda fondamentale: un esito negativo sulla sicurezza può ritardare o impedire la distribuzione?

Per ora, le prove sostengono una conclusione più circoscritta: i principali laboratori di IA di frontiera discutono un’infrastruttura comune per la sicurezza e sostengono sempre più i controlli esterni. Resta da vedere se produrranno un organismo indipendente e dotato di poteri effettivi, oppure un forum industriale basato su adesioni volontarie. 8911