Comment des acteurs malveillants ont contourné les garde-fous de Claude, selon Anthropic

Le rapport de renseignement sur les menaces publié par Anthropic en septembre 2026 recense des activités que l’entreprise affirme avoir perturbées entre décembre 2025 et août 2026. Elles couvrent sept catégories : opérations cyber, opérations d’influence, surveillance, escroqueries et fraude, abus biologiques, développement d’armes conventionnelles et distillation illicite de modèles. Les cas identifiés impliquaient les modèles Claude Haiku, Sonnet et Opus. 16

Le point essentiel n’est pas que toutes les tentatives ont abouti. Le rapport montre surtout comment l’IA peut réduire le temps, le travail et l’expertise nécessaires à des activités de reconnaissance, de surveillance, de fraude ou d’intrusion informatique. Anthropic affirme n’avoir trouvé aucune preuve qu’une arme opérationnelle développée avec Claude ait été déployée. 46

Les méthodes de contournement des contrôles

Selon Anthropic, les acteurs ont tenté de déjouer les restrictions géographiques et celles de la plateforme en recourant à des VPN, à de faux comptes, à des identifiants volés ou compromis, ainsi qu’à la rotation de comptes. Ces pratiques leur auraient permis de solliciter le modèle malgré les contrôles du fournisseur. 4

L’abus ne se limitait pas aux requêtes adressées au modèle. Le rapport évoque aussi des clés d’API et des jetons de session compromis, revendus ou utilisés à mauvais escient. Il mentionne également des sites imitant des produits ou fournisseurs d’IA, y compris Claude Code, afin de diffuser des logiciels malveillants visant à voler des identifiants. 412

Autrement dit, l’évaluation de la sécurité d’un modèle ne peut pas porter uniquement sur ses réponses. La création des comptes, la vérification d’identité, les paiements, la protection des identifiants et la détection d’activités coordonnées font aussi partie de la frontière de sécurité.

Les cas d’abus décrits par Anthropic

Recherche liée aux armes et aux drones

Anthropic décrit une cellule d’ingénierie d’armes guidées basée au Yémen qui aurait utilisé Claude pour des travaux sur des logiciels associés à une roquette guidée, un missile balistique à plusieurs étages et un missile à planeur hypersonique. L’entreprise précise ne disposer d’aucun élément montrant qu’une arme opérationnelle développée avec Claude a été déployée. 6

Dans un autre cas, un acteur lié à la Russie aurait demandé de l’aide en rapport avec un essaim autonome de drones kamikazes. Les éléments disponibles décrivent une tentative de développement assisté par IA, et non la preuve d’un système achevé ou déployé sur le terrain. 5

Surveillance, répression et influence

Le rapport fait aussi état de surveillance et de collecte de renseignement assistées par IA. Dans un cas lié à la Chine, un ingénieur travaillant sur un système de gestion de dossiers d’un Bureau municipal de la sécurité publique aurait développé un outil comparant les déplacements d’une personne à des fichiers de police grâce à son numéro national d’identité. 4

Parmi les autres cas signalés figurent une tentative liée au Mali d’intercepter les communications chez plusieurs opérateurs mobiles, et une opération iranienne de collecte d’identités sur les réseaux sociaux et d’analyse de plus de 155 000 tweets à des fins de renseignement ou d’influence. Les informations disponibles étayent les détections rapportées par Anthropic, mais ne permettent pas d’établir l’efficacité réelle ou l’impact opérationnel de chacune de ces campagnes. 4

L’avertissement d’Anthropic est que l’IA peut rendre des pratiques existantes de surveillance et de répression moins coûteuses, plus rapides et plus faciles à déployer à grande échelle. Il ne s’agit pas forcément de créer des risques entièrement nouveaux, mais d’abaisser le volume de travail et le niveau d’expertise requis. 4

Cyberespionnage, fraude et tentative de copie de modèles

Le rapport recense des activités cyber allant du vol d’identifiants et de l’aide à l’intrusion à des flux d’attaque partiellement autonomes assistés par IA. Il décrit également des opérations visant des organisations gouvernementales, financières et commerciales en Asie. 4

Des activités liées à la Russie auraient inclus du cyberespionnage ainsi que l’exposition, via le routage de requêtes vers le modèle, d’identifiants associés à une base de données gouvernementale russe liée à la défense. 5

Des cas liés à la Chine comprenaient des tentatives d’extraire ou de « distiller » les capacités de Claude — c’est-à-dire de reproduire ses performances dans un autre système — en utilisant de nombreux comptes frauduleux. Anthropic classe cette distillation illicite parmi les sept catégories de risques étudiées. 416

La réponse d’Anthropic

Anthropic déclare avoir perturbé les opérations identifiées, banni les comptes associés, mis à jour ses garde-fous à partir des enseignements tirés de ces cas et partagé des renseignements pertinents avec des autorités publiques et des partenaires du secteur. 4

Ces mesures peuvent bloquer un chemin d’accès précis à un modèle commercial et fournir des indicateurs utiles à d’autres défenseurs. Elles ne font toutefois pas disparaître les outils ni les motivations à l’origine de ces activités.

Pourquoi le bannissement de comptes ne règle pas tout

Anthropic présente explicitement le problème comme plus large que l’accès à Claude. Un acteur exclu d’un service peut tenter d’utiliser des comptes volés, migrer vers un autre fournisseur ou se tourner vers des modèles open source. 4

Le rapport doit donc être lu comme le signe d’un environnement de menace en évolution, et non comme la preuve que l’exclusion de certains comptes met définitivement fin aux abus. Les mesures prises par les fournisseurs peuvent augmenter le coût des opérations malveillantes, révéler des campagnes et protéger les utilisateurs légitimes. Mais elles doivent s’accompagner de contrôles d’identité plus solides, d’une meilleure protection des identifiants, d’échanges coordonnés de renseignements et de défenses adaptées à des outils d’IA qui dépassent une seule plateforme.

À retenir

Selon Anthropic, des acteurs malveillants ont appliqué des méthodes classiques de contournement — VPN, faux comptes et identifiants dérobés — à des modèles d’IA généralistes afin de mener ou de soutenir des recherches liées aux armes, la surveillance, des opérations d’influence, des activités cyber et des fraudes. 416

L’entreprise affirme que ses interventions ont limité l’accès à Claude dans les cas recensés. Son avertissement plus large est que des IA toujours plus capables abaissent les barrières à des activités nuisibles dans l’ensemble de l’écosystème, sans que les éléments disponibles démontrent que toutes les tentatives signalées, notamment celles liées aux armes, aient débouché sur un déploiement opérationnel. 46