Perché Anthropic non ha dato a AISI l’accesso anticipato a Claude Mythos 5.1?

Anthropic non ha spiegato pubblicamente perché non abbia concesso al Regno Unito AI Security Institute (AISI) l’accesso prima del rilascio a Claude Mythos 5.1. Di conseguenza, non è possibile attribuire con certezza una motivazione all’azienda.

Il dato verificabile è più limitato: Claude Mythos 5.1 è stato messo a disposizione dei partecipanti al Project Glasswing, mentre Claude Fable 5.1 è stato distribuito attraverso l’API Claude e i servizi cloud di Amazon, Google e Microsoft. Entrambi supportano una finestra di contesto di 1 milione di token e output fino a 128.000 token. 1

Perché la mancata valutazione è rilevante

AISI è l’organismo del governo britannico che studia capacità e rischi dei sistemi di IA avanzata, con l’obiettivo di fornire ai governi una base empirica per le decisioni di sicurezza. L’istituto dichiara di avere oltre 100 addetti tecnici e di aver esaminato più di 30 modelli di frontiera. 23

Il suo ruolo include proprio la valutazione dei modelli prima della loro diffusione pubblica e lo studio delle misure di mitigazione. 4 Tuttavia, AISI non dispone di un potere legale generale per obbligare le aziende a consegnare i modelli: l’accesso dipende dalla cooperazione dei loro sviluppatori. Se un modello ristretto non viene condiviso, l’istituto non può svolgere una verifica indipendente su quella specifica versione.

Le spiegazioni possibili, ma non dimostrate

Sono possibili diverse ragioni: cautela su capacità cyber o biologiche, riservatezza commerciale, requisiti interni del programma Glasswing oppure una politica di accesso limitata a organizzazioni statunitensi già selezionate. Ma nessuna di queste ipotesi è stata confermata pubblicamente da Anthropic.

Per lo stesso motivo, non ci sono elementi sufficienti per sostenere che la decisione sia stata imposta dal governo degli Stati Uniti o richiesta da norme di controllo delle esportazioni. La lettura secondo cui si tratterebbe di protezionismo tecnologico è una preoccupazione geopolitica comprensibile, non una conclusione provata.

Non è una prova che Mythos 5.1 sia pericoloso

L’assenza di accesso non dimostra che Claude Mythos 5.1 sia insicuro, né che presenti un rischio eccezionale. Mostra però un limite importante: un ente pubblico specializzato, creato per esaminare i rischi dei modelli più avanzati, non ha potuto verificare quel sistema prima del suo impiego controllato.

AISI continua a collaborare con gli sviluppatori e a svolgere valutazioni su altri modelli di frontiera. I suoi test coprono, tra l’altro, sicurezza informatica, biologia e chimica, comportamento autonomo e robustezza delle salvaguardie. 35

In sintesi: non sappiamo perché Anthropic abbia negato l’accesso pre-rilascio ad AISI. Sappiamo invece che la scelta ha lasciato un punto cieco nella verifica indipendente di un modello disponibile soltanto a un gruppo ristretto di organizzazioni.