The Information ha riferito che DeepSeek e Moonshot AI avrebbero fatto ampio ricorso alle risposte di GPT-6 Astra, il modello di OpenAI, per addestrare nuovi sistemi. La notizia, ripresa da Reuters e basata su persone a conoscenza diretta della vicenda, riguarda DeepSeek V4.1-Flash 1017 e Moonshot Kimi K3.1 Pro. Le società non avevano commentato nell’immediato, secondo le ricostruzioni disponibili. L’accusa non è stata verificata in modo indipendente.
1
3
Il punto centrale non è un presunto accesso ai pesi del modello di OpenAI, cioè ai suoi parametri interni, ma l’eventuale uso delle sue risposte per insegnare a un altro modello e la legittimità di quel metodo.
3
8
Che cos’è la distillazione dei modelli
La distillazione è una tecnica di addestramento in cui un modello più piccolo o meno costoso — lo “studente” — impara dalle risposte di un modello più potente, il “docente”. Per farlo non è necessario accedere ai pesi del modello originale. OpenAI stessa offre una piattaforma di distillazione per mettere a punto modelli più efficienti usando le risposte di un modello di frontiera.
34
La tecnica, di per sé, non è illecita. La controversia riguarda il modo in cui vengono raccolti e utilizzati i dati. OpenAI definisce la distillazione avversaria l’uso sistematico e non autorizzato delle risposte o del ragionamento di un modello per addestrarne, riprodurne o migliorarne un altro.
36
Se uno sviluppatore riesce a riprodurre alcune capacità in questo modo, può ridurre il tempo o i costi necessari per svilupparle autonomamente. I critici temono che l’estrazione non autorizzata premi la copia e indebolisca il vantaggio competitivo costruito attraverso ricerca e addestramento.
6
35
La campagna di estrazione descritta da OpenAI a settembre
L’accusa relativa all’addestramento con GPT-6 Astra non va confusa con la distinta campagna di estrazione del ragionamento di cui OpenAI ha parlato a settembre. Nel resoconto del 30 settembre, OpenAI ha descritto tentativi di ottenere informazioni sul ragionamento protetto dei suoi modelli; da solo, quel resoconto non dimostra come siano stati addestrati i modelli citati da The Information.
1
36
OpenAI ha dichiarato che le prime attività osservate risalivano alla prima settimana di luglio. Secondo la copertura secondaria, il 24 e 25 luglio si è registrato un picco di circa 16.000 richieste provenienti da oltre 4.000 utenti; OpenAI avrebbe interrotto l’attività entro il 28 luglio. Si tratta di richieste e utenti, non di estrazioni riuscite accertate.
21
27
56
Le ricostruzioni descrivono una tecnica che prevedeva di copiare il ragionamento cifrato da una conversazione e chiedere a un modello, in un’altra conversazione, di renderlo in testo. OpenAI ha affermato che gli operatori non avevano violato la cifratura, compromesso un database o ottenuto accesso diretto alle conversazioni archiviate.
26
36
OpenAI ha attribuito un gruppo centrale di attività a persone associate a Moonshot AI, precisando di non poter stabilire se tutti gli operatori appartenessero a un unico soggetto. CyberScoop ha osservato che OpenAI non ha fornito prove tecniche pubbliche a sostegno dell’attribuzione a Moonshot: sulla base delle informazioni rese note, questo aspetto non può quindi essere verificato in modo indipendente.
18
32
Le misure di sicurezza e le accuse di Anthropic
In un annuncio di ottobre, Anthropic ha dichiarato che le sue misure di sicurezza hanno ridotto di circa il 90–99% la quantità di dati raccolti da chi cerca di distillare i suoi modelli. Separatamente, l’azienda ha riferito che, dopo l’introduzione di un classificatore, i token di ragionamento estratti sono risultati da 10 a 100 volte inferiori: sono due metriche distinte.
33
Anthropic ha inoltre affermato che Zhipu avrebbe distillato capacità informatiche di modelli statunitensi di punta durante lo sviluppo di GLM-5.3. È un’accusa formulata da Anthropic; le informazioni disponibili non stabiliscono che si riferisse nello specifico a Claude.
33
Perché la vicenda conta, e cosa non dimostra
Per chi sviluppa modelli, il timore è che un concorrente possa acquisire capacità utili senza sostenere un investimento comparabile in ricerca e addestramento. Sul fronte della sicurezza, si teme che le capacità copiate non siano accompagnate dalle stesse protezioni del modello originale. Anthropic ha descritto la distillazione illecita come un modo per copiare capacità avanzate senza sviluppare salvaguardie altrettanto solide.
35
37
Sono rischi sollevati dalle aziende e dalla copertura giornalistica, non la prova che i modelli citati di DeepSeek o Moonshot siano equivalenti a GPT-6 Astra, che sia stato violato uno specifico contratto o che si sia verificato un danno concreto. La distinzione decisiva è tra la distillazione come tecnica di addestramento e le pratiche contestate per ottenere o riutilizzare le risposte di un altro modello.