Le gouvernement américain force Anthropic à couper l'accès mondial à ses nouveaux modèles d'IA

« L'effet net de cet ordre est que nous devons brusquement désactiver Fable 5 et Mythos 5 pour tous nos clients afin de garantir notre conformité », a déclaré la société sur son blog officiel et sur X . L'accès à ses autres systèmes, dont le très populaire chatbot Claude, n'est pas affecté .

Qu'est-ce qui a poussé le gouvernement à agir ?

Les préoccupations de Washington portent sur ce que des responsables ont décrit comme des vulnérabilités de type "jailbreak", qui pourraient permettre aux modèles de mener des recherches autonomes en cybersécurité . Selon plusieurs sources, le gouvernement n'a fourni que des preuves verbales d'un jailbreak potentiel étroit et non universel – concrètement, une méthode pour demander au modèle de lire un code source spécifique afin d'en corriger les failles .

Les propres mises en garde d'Anthropic sur la dangerosité de ses modèles pourraient avoir involontairement alimenté l'inquiétude des autorités. L'entreprise avait en effet prévenu que Mythos 5, son modèle le plus performant destiné à un usage restreint, présentait des risques significatifs en matière de cybersécurité. La Maison Blanche avait alors mis en place des protections pour les agences fédérales qui y avaient un accès privilégié . Fable 5 avait été présentée au public quelques jours plus tôt comme une version plus sûre, entraînée à refuser les requêtes dangereuses, mais la rapidité de la réaction gouvernementale montre que ces garde-fous n'ont pas été jugés suffisants .

C'est la première fois que le gouvernement américain qualifie un modèle de langage spécifique de menace pour la sécurité nationale et utilise les règles d'exportation dites "réputées" pour en restreindre l'accès, y compris pour des étrangers travaillant sur le sol américain . Le secrétaire au Commerce, Howard Lutnick, a personnellement notifié ces contrôles au PDG d'Anthropic, Dario Amodei, par courrier .

L'inclusion inédite des propres employés d'Anthropic

C'est la portée de la directive au sein même de l'effectif d'Anthropic qui a rendu sa mise en conformité aussi absolue. Les autorités ont explicitement indiqué que l'interdiction s'appliquait à « tout ressortissant étranger, qu'il se trouve aux États-Unis ou non, y compris les employés étrangers d'Anthropic » .

Cela signifie que même les chercheurs et ingénieurs du projet Glass Wing – l'initiative interne d'Anthropic dédiée à la sécurité des modèles de pointe – qui n'ont pas la nationalité américaine ou le statut de résident permanent, n'avaient plus le droit d'accéder aux modèles . La restriction s'appliquant à l'intérieur même des murs de l'entreprise, Anthropic ne pouvait pas se contenter d'en limiter l'accès externe et de poursuivre le développement en interne. La seule voie possible pour se conformer à la loi a été un arrêt mondial complet, dans l'attente d'une solution technique ou juridique .

Cet épisode illustre une application spectaculaire du droit américain du contrôle des exportations à l'intelligence artificielle, en traitant les modèles avancés comme des armes ou des technologies de défense sensibles. Les règles d'exportation réputée impliquent que partager une technologie contrôlée avec un ressortissant étranger se trouvant aux États-Unis équivaut légalement à l'exporter à l'étranger .

La réponse d'Anthropic : un « malentendu »

Anthropic s'est exécuté immédiatement, mais a clairement fait savoir qu'il estimait que le gouvernement faisait fausse route. « Nous pensons qu'il s'agit d'un malentendu et nous travaillons à rétablir l'accès dès que possible », a déclaré l'entreprise dans son communiqué public .

L'entreprise souligne que la preuve du jailbreak qui lui a été présentée est étroite et non universelle, laissant entendre que le gouvernement surestime peut-être les risques pratiques . En attendant, la société a promis de maintenir en ligne tous ses autres modèles Claude, le temps de négocier le rétablissement de Fable 5 et de Mythos 5 .

À l'heure actuelle, l'ordre sans précédent est toujours en vigueur, et les deux modèles d'IA les plus puissants jamais retirés de l'accès public pour des raisons de sécurité nationale restent éteints. La durée de cette situation, et le précédent qu'elle crée pour d'autres entreprises d'IA de pointe, constitueront le prochain chapitre du débat qui s'intensifie rapidement sur les conditions d'accès aux systèmes d'intelligence artificielle les plus performants.