OpenAI e Moonshot: le accuse sui tentativi di estrarre il ragionamento dei modelli GPT

OpenAI sostiene di aver individuato e interrotto una campagna che cercava di far emergere il ragionamento protetto dei suoi modelli. L’azienda attribuisce a persone associate a Moonshot AI, sviluppatrice dei modelli Kimi, un nucleo centrale dell’attività, ma non l’intera campagna. Le cifre riportate riguardano tentativi: non dimostrano che le estrazioni siano riuscite né che tutti gli operatori appartenessero allo stesso gruppo.

Che cosa dice OpenAI e quando sarebbe successo

Secondo OpenAI, i primi segnali risalgono al 1° luglio 2026. Il 24 e 25 luglio l’azienda ha registrato 16.000 richieste legate a uno schema di estrazione, provenienti da oltre 4.000 utenti. L’indagine più ampia ha poi individuato modelli di prompt simili tra oltre 15.000 utenti; OpenAI afferma di aver bloccato il gruppo di attività entro il 28 luglio.

Una tecnica descritta consisteva nel copiare il ragionamento cifrato da una conversazione e chiedere a un modello, in un’altra chat, di decifrarlo e trascriverlo. OpenAI afferma che le operazioni cercavano di rendere visibile a chi faceva la richiesta materiale normalmente escluso dalla risposta finale. Ribadisce però che i numeri indicano tentativi, non estrazioni riuscite, e che non è riuscita ad attribuire tutti gli operatori a un unico soggetto.

Le accuse più ampie delle agenzie USA e di Anthropic

In un avviso di settembre, NSA, CISA e FBI hanno indicato Moonshot tra sei aziende con sede in Cina che, secondo le agenzie, avrebbero condotto campagne di distillazione contro modelli statunitensi. I dati citati — miliardi di token e milioni di scambi, a partire almeno dalla fine del 2024 — si riferiscono all’insieme delle campagne, non a Moonshot da sola. L’avviso descrive richieste instradate attraverso più canali, tra cui API, fornitori cloud e aggregatori di terze parti che possono mascherare i metadati.

La distillazione, in sé, è una tecnica di apprendimento automatico legittima: un modello può essere addestrato usando le risposte di un altro, più capace. La contestazione riguarda l’uso non autorizzato e su larga scala, che secondo le aziende e le agenzie citate violerebbe i termini di accesso.

Separatamente, Anthropic ha accusato Moonshot di aver inoltrato di nascosto a Claude richieste inviate da utenti di Kimi, presentando poi le risposte come proprie. Nel rapporto, Anthropic afferma che in un periodo di dieci giorni Moonshot avrebbe trasmesso quasi 300.000 richieste, per la maggior parte al modello Opus. Si tratta di accuse dell’azienda, non di una verifica indipendente del comportamento di ogni richiesta.

L’avviso sulle contromisure

Le agenzie statunitensi raccomandano alle aziende di adottare rilevamento e mitigazione completi contro campagne di distillazione non autorizzate su scala industriale. L’avviso richiama anche la necessità di considerare i diversi percorsi di accesso, non solo le chiamate dirette alle API, perché le richieste possono passare attraverso cloud e aggregatori.

Kimi K3 in Codex: un fatto commerciale distinto

A settembre è stato riportato che Kimi K3, il modello di Moonshot, è diventato disponibile agli utenti enterprise di Codex tramite Baseten, un fornitore statunitense di infrastruttura d’inferenza. Le aziende possono conteggiarne l’uso negli impegni di spesa OpenAI già esistenti, senza avviare una nuova procedura per un fornitore. I resoconti lo descrivono come il primo modello cinese open a entrare in quel canale di acquisto enterprise. 13

La coesistenza di questa integrazione e delle accuse di OpenAI può sembrare sorprendente, ma i fatti riportati non dimostrano che il canale Codex o Baseten abbiano facilitato i tentativi contestati: sono due vicende distinte. 3