Khanna chiede a cinque aziende AI come proteggono i loro modelli dai tentativi di furto

La domanda di fondo è semplice: se qualcuno riuscisse a sottrarre i pesi di un modello avanzato, potrebbe ottenere il modello stesso, non soltanto usarne le risposte. Per questo il deputato democratico Ro Khanna ha chiesto a OpenAI, Anthropic, Google, Meta e SpaceX di riferire su eventuali tentativi di accesso non autorizzato e sulle misure adottate per impedirli. Il timore è che un furto possa intaccare il vantaggio statunitense nell’AI e creare rischi per la sicurezza nazionale.4713

La richiesta è un’indagine conoscitiva: non equivale ad affermare che la Cina, o un altro attore ostile, abbia già rubato i pesi di una di queste aziende. Le notizie disponibili segnalano pochi casi noti di furto effettivo.613

Furto dei pesi e distillazione non sono la stessa cosa

I pesi sono i parametri numerici appresi durante l’addestramento, che contribuiscono a determinare il comportamento di un modello. Averli può consentire di eseguire una copia del sistema. La distillazione, invece, consiste nell’addestrare un altro modello usando le risposte di quello di partenza: non significa ottenere direttamente i suoi parametri.717

La distinzione è rilevante perché le autorità statunitensi hanno accusato alcune aziende cinesi di ricorrere alla distillazione, e OpenAI e Anthropic hanno segnalato episodi di questo tipo. Sono contestazioni diverse dall’accesso illecito ai pesi, che resta il rischio specifico su cui Khanna vuole informazioni.61117

Sicurezza informatica e competizione tra potenze

Per Khanna, proteggere i modelli più avanzati non è soltanto una questione di proprietà intellettuale: riguarda anche chi può disporre di capacità AI potenti e quali rischi ne possano derivare. Un accesso diretto potrebbe, secondo il timore espresso nella richiesta, ridurre il vantaggio degli Stati Uniti e avere implicazioni per la sicurezza nazionale.413

Al tempo stesso, Khanna ha chiesto un’intesa tra Stati Uniti e Cina su standard e verifiche per la sicurezza dell’AI. Il punto di equilibrio è delicato: le accuse di copia e le minacce di sanzioni possono alimentare lo scontro, mentre gli analisti avvertono che un’escalation potrebbe rendere più difficile la collaborazione bilaterale sui rischi.2518

Il nodo delle regole volontarie

La richiesta arriva mentre l’amministrazione Trump ha previsto test informatici governativi volontari, prima del rilascio, per alcuni modelli avanzati con capacità di hacking. L’amministrazione ha anche promosso un approccio in cui le aziende si impegnano a controllare i propri sistemi.

Sono iniziative che non vanno confuse con una garanzia contro il furto dei pesi: le informazioni disponibili non dimostrano che quei test siano progettati per prevenire questo tipo di accesso, né che possano farlo. Khanna, chiedendo alle aziende di descrivere i tentativi rilevati e le proprie difese, mette invece sotto esame direttamente la loro gestione della sicurezza.71113