Vol de modèles d’IA : ce que Ro Khanna veut savoir des entreprises américaines

La question de Ro Khanna porte sur ce qui se cache derrière les réponses d’un modèle d’intelligence artificielle : ses poids, c’est-à-dire les paramètres appris qui lui permettent de fonctionner. Le député démocrate veut savoir si des acteurs hostiles ont tenté d’y accéder illégalement chez OpenAI, Anthropic, Google, Meta et xAI, et connaître les mesures de cybersécurité censées les protéger.3

L’enjeu dépasse la copie d’un outil concurrent. Si quelqu’un obtenait les poids eux-mêmes, il mettrait la main sur la structure interne du modèle, plutôt que de simplement l’utiliser au travers du service proposé par son entreprise. Khanna avait déjà opposé cette menace à la distillation, en demandant si celle-ci constituait le principal moyen pour la Chine d’acquérir illicitement des modèles avancés.

Distillation et vol : deux choses différentes

La distillation consiste à interroger un modèle existant et à exploiter ses réponses pour entraîner un autre modèle. OpenAI et Anthropic ont signalé des pratiques de distillation impliquant des entreprises chinoises. Cela peut permettre de reproduire certaines capacités, mais ne signifie pas que les poids originaux ont été obtenus.3

Le vol de poids, lui, suppose un accès direct à ces paramètres. Les informations publiées font état de peu de cas connus de vol de poids par un acteur malveillant. Elles ne permettent donc pas d’affirmer que la Chine a réussi à dérober les poids des entreprises visées par Khanna.3

Une question de sécurité nationale et de contrôle

Pour Khanna, la protection des modèles les plus puissants relève aussi de la sécurité nationale : les entreprises doivent pouvoir expliquer comment elles sécurisent ces systèmes et signaler les tentatives d’intrusion connues. Mais les sources disponibles ne détaillent ni l’ensemble des protections en place ni d’éventuelles tentatives qui n’auraient pas été rendues publiques.3

Cette demande s’inscrit dans un débat plus large sur la manière d’encadrer l’IA aux États-Unis. L’administration Trump a soutenu des engagements volontaires du secteur, notamment autour de contrôles internes et d’audits indépendants.9 Elle a aussi indiqué que les modèles à poids ouverts ne feraient pas l’objet de tests de sécurité dans le cadre du dispositif volontaire évoqué avec les entreprises.

Khanna défend une voie plus contraignante : des audits obligatoires avant la mise en circulation des modèles et un accord entre Washington et Pékin doté de mécanismes de vérification et d’inspection.2 Son appel à la transparence pose donc une question centrale : les engagements pris par les entreprises suffisent-ils à protéger des systèmes stratégiques, ou faut-il que l’État impose des règles et vérifie leur application ?9