Selon un article de The Information relayé par Reuters, DeepSeek et Moonshot AI se seraient largement appuyées sur les réponses du modèle GPT-6 Astra d’OpenAI pour entraîner leurs derniers modèles. L’information repose sur des personnes ayant connaissance du dossier. Les entreprises concernées n’avaient pas immédiatement commenté, selon un compte rendu secondaire, et l’allégation n’a pas été vérifiée de façon indépendante.
1
3
Les modèles cités sont le V4.1-Flash 1017 de DeepSeek et le Kimi K3.1 Pro de Moonshot AI. L’accusation ne porte pas sur un accès aux poids du modèle d’OpenAI, mais sur l’utilisation de ses réponses pour en entraîner un autre — et sur la question de savoir si cette utilisation était autorisée.
3
8
La distillation, une technique qui fait débat
La distillation consiste à entraîner un modèle, dit « élève », à partir des réponses d’un modèle plus puissant, dit « enseignant ». Elle ne nécessite pas d’accéder aux poids de ce dernier. OpenAI propose d’ailleurs un outil de distillation pour ajuster des modèles moins coûteux à partir des réponses d’un modèle de grande taille.
34
La technique n’est donc pas illégale par nature. Le différend porte sur la manière dont les données sont obtenues et utilisées. OpenAI décrit la « distillation adversariale » comme l’utilisation systématique et non autorisée des réponses ou du raisonnement d’un modèle pour en entraîner, reproduire ou améliorer un autre.
36
L’enjeu commercial est évident : si un concurrent parvient à reproduire certaines capacités de cette façon, il pourrait consacrer moins de temps ou d’argent à les développer lui-même. Les critiques estiment que l’extraction non autorisée peut récompenser la copie et réduire l’avantage acquis grâce à la recherche et à l’entraînement des modèles.
6
35
Une autre campagne d’extraction signalée par OpenAI
L’allégation concernant l’entraînement des modèles de DeepSeek et de Moonshot ne constitue pas une preuve qu’ils ont utilisé des données issues de la campagne distincte décrite par OpenAI en septembre. Le récit publié par OpenAI le 30 septembre porte sur des tentatives d’extraction de raisonnements protégés ; il ne permet pas, à lui seul, d’établir comment les modèles cités par The Information ont été entraînés.
1
36
OpenAI a indiqué que les premières activités observées remontaient à la première semaine de juillet. Des articles secondaires font état d’environ 16 000 requêtes provenant de plus de 4 000 utilisateurs les 24 et 25 juillet, puis d’une interruption de l’activité au 28 juillet. Ces chiffres comptabilisent des requêtes et des utilisateurs : ils ne correspondent pas à des extractions réussies confirmées.
21
27
56
Selon des comptes rendus de la campagne, une méthode consistait à copier un raisonnement chiffré d’une conversation, puis à demander à un modèle, dans une autre conversation, de le rendre sous forme de texte. OpenAI a déclaré que les opérateurs n’avaient ni cassé son chiffrement, ni compromis une base de données, ni accédé directement aux conversations enregistrées.
26
36
OpenAI a attribué un groupe central d’activités à des personnes associées à Moonshot AI, tout en précisant qu’elle ne pouvait pas déterminer si tous les opérateurs relevaient d’un seul acteur. CyberScoop a relevé qu’OpenAI n’avait pas publié de preuves techniques étayant cette attribution à Moonshot : sur la base des éléments divulgués, celle-ci ne peut donc pas être vérifiée indépendamment.
18
32
Les chiffres avancés par Anthropic
Dans une annonce publiée en octobre, Anthropic a indiqué que ses mesures de protection avaient réduit d’environ 90 % à 99 % la quantité de données récoltées par les acteurs cherchant à distiller ses modèles. L’entreprise a aussi rapporté qu’après l’introduction d’un classificateur, le nombre de jetons de raisonnement extraits était 10 à 100 fois plus faible. Il s’agit de deux mesures distinctes.
33
Anthropic a également affirmé que Zhipu avait distillé les capacités en cybersécurité de modèles américains de pointe lors du développement de GLM-5.3. C’est une accusation formulée par Anthropic ; les informations disponibles ne permettent pas d’établir que cette affirmation précise concernait Claude.
33
Ce que ces accusations permettent — et ne permettent pas — de conclure
Pour les développeurs de modèles, le risque est qu’un concurrent acquière des capacités utiles sans investir autant dans la recherche et l’entraînement. Pour la sécurité, la crainte est que les capacités soient copiées sans que les garde-fous du modèle d’origine le soient aussi. Anthropic soutient ainsi que la distillation illicite peut permettre de reprendre des capacités de pointe sans créer de protections proportionnellement robustes.
35
37
Ces éléments décrivent des risques soulevés par les entreprises et les médias ; ils ne prouvent pas que les modèles cités sont équivalents à GPT-6 Astra, qu’un contrat précis a été violé ou qu’un préjudice particulier s’est produit. La distinction essentielle reste celle entre la distillation comme méthode d’entraînement et les pratiques contestées utilisées pour obtenir ou réutiliser les réponses d’un autre modèle.