Il furto dei pesi dell’IA è diverso dalla distillazione: cosa vuole sapere Ro Khanna

Ro Khanna vuole sapere se le principali aziende statunitensi di IA siano in grado di tenere al sicuro i loro modelli più avanzati. Ha chiesto a OpenAI, Anthropic, Google, Meta e xAI di riferire eventuali tentativi, attribuiti alla Cina o ad altri attori ostili, di accedere illegalmente ai pesi dei modelli e di descrivere le proprie misure di cybersicurezza. La questione, per il deputato, non è soltanto se un concorrente possa imitare i risultati di un sistema: è anche chi possa ottenere direttamente la tecnologia che lo fa funzionare.510

Pesi del modello e distillazione: che differenza c’è

I pesi sono i parametri appresi durante l’addestramento: in sostanza, una parte essenziale della struttura interna del modello. Sottrarli significa ottenere quei parametri, anziché limitarsi a interrogare il servizio dell’azienda che lo gestisce. Chi ne entrasse in possesso potrebbe avere un accesso diretto al modello, al di fuori dei controlli applicati tramite il servizio del produttore. Khanna ha distinto esplicitamente la questione della distillazione da quella di come proteggere i pesi.5

La distillazione, invece, consiste nell’usare le risposte di un modello per addestrarne un altro. OpenAI e Anthropic hanno riferito casi di distillazione legati a società cinesi, ma le fonti segnalano pochi casi noti di furto dei pesi.10 Le segnalazioni di distillazione, quindi, non dimostrano che i pesi di quelle aziende siano stati sottratti. Le informazioni disponibili non provano che la Cina abbia rubato i pesi di una delle società citate.

Il nodo politico: impegni volontari o regole vincolanti?

La richiesta di Khanna si colloca in un dibattito più ampio sulla gestione dei rischi dell’IA. L’amministrazione Trump ha puntato su impegni volontari delle aziende; in un confronto su un sistema volontario di test, ha anche indicato che i modelli open-weight non sarebbero stati sottoposti a quei controlli di sicurezza governativi.9 I modelli open-weight rendono disponibili i propri pesi, a differenza di quelli accessibili soltanto tramite il servizio del produttore: una volta diffusi, è più difficile monitorarne l’uso o ritirarli.16

Khanna sostiene invece verifiche obbligatorie e un ruolo più incisivo del governo. Ha inoltre chiesto un accordo sulla sicurezza dell’IA tra Stati Uniti e Cina, con strumenti di controllo e verifica.12 Le sue domande alle aziende puntano a ottenere elementi concreti sull’adeguatezza delle difese aziendali, anziché dare per scontato che gli impegni del settore bastino.

Le informazioni disponibili non chiariscono quali siano nel dettaglio le misure di protezione adottate dalle singole società né se abbiano ricevuto tentativi d’intrusione non resi pubblici.