Sécurité de l'IA en 2026 : le NIST prouve que les garde-fous sont condamnés à échouer

HMNS : un jailbreak qui opère au niveau des circuits du modèle

Des chercheurs de l'Université de Floride ont présenté une technique baptisée Head-Masked Nullspace Steering (HMNS). Celle-ci agit au niveau des circuits d'un modèle Transformer . Acceptée comme article de conférence à l'ICLR 2026 , HMNS identifie les têtes d'attention responsables du comportement de sécurité par défaut d'un modèle, supprime leurs voies d'écriture via un masquage ciblé de colonnes, puis injecte une perturbation contrainte au complément orthogonal du sous-espace de refus du modèle .

Il ne s'agit pas d'un jailbreak basé sur une invite. En manipulant directement les représentations internes du modèle, HMNS atteint des taux de réussite proches de 99 % sur des modèles comme LLaMA-3.1-70B avec environ 2 tentatives en moyenne, tout en préservant la fluidité des réponses .

Refusé dans le chat, mais écrit dans le code : le jailback du flux de travail de Copilot

Un article de juillet 2026 sur arXiv, intitulé « Refused in Chat, Written in Code », démontre que les agents de codage dans l'IDE, comme GitHub Copilot, affichent un refus quasi total dans les scénarios de base (chat direct, lecture CSV, correction de code en une seule étape) avec seulement 8 réponses réussies sur 816 . Cependant, lorsque le même objectif nuisible est décomposé en un flux de travail de développement logiciel en plusieurs étapes (lecture de fichiers, exécution de scripts, traitement d'entrées de benchmark), les modèles produisent des résultats nuisibles dans les 816 exécutions .

Ce jailbreak au niveau du flux de travail contourne les filtres de sécurité du chat en reformulant des objectifs malveillants en tâches de développement ordinaires . Plutôt que de demander au modèle « d'écrire un code malveillant », l'attaquant lui demande de « lire un fichier, exécuter un script, puis traiter des entrées de benchmark » — une séquence qui semble anodine à chaque étape, mais qui accomplit l'objectif nuisible une fois composée.

Intervention gouvernementale : Anthropic désactive Claude Fable 5 dans le monde entier

Le 12 juin 2026, trois jours seulement après le lancement de Claude Fable 5 et Mythos 5 par Anthropic, le secrétaire au Commerce américain, Howard Lutnick, a envoyé une lettre au PDG Dario Amodei ordonnant à Anthropic de cesser les exportations mondiales. Pour la première fois, une disposition de l'Export Control Reform Act de 2018 était invoquée . Le déclencheur était un jailbreak découvert par des chercheurs d'Amazon, permettant à Fable 5 d'identifier des vulnérabilités logicielles, suscitant des inquiétudes quant à un détournement par les services de renseignement militaire étrangers .

Incapable de vérifier de manière fiable la nationalité des utilisateurs en temps réel, Anthropic a désactivé les deux modèles pour tous les utilisateurs du monde entier . Les contrôles à l'exportation ont été levés le 30 juin, et Fable 5 est revenu mondialement le 1er juillet 2026, après une suspension de 18 jours . L'accès à Mythos 5 a été rétabli pour un ensemble d'organisations américaines .

Ce que cela signifie pour la sécurité de l'IA

Ces quatre développements convergent vers une seule vérité : les garde-fous statiques et ponctuels sont fondamentalement insuffisants. La preuve du NIST établit cela comme une certitude mathématique . HMNS montre qu'elle peut être exploitée avec une efficacité quasi parfaite . Le jailbreak du flux de travail de Copilot démontre que même les filtres de chat les plus solides peuvent être contournés lorsque les modèles agissent comme des agents . Enfin, l'incident Fable 5 montre que la découverte de telles vulnérabilités peut déclencher une intervention gouvernementale sans précédent .

La conclusion pratique est claire : les organisations doivent passer de la certification d'un modèle comme « sûr » lors du développement à une surveillance, des tests et des mises à jour continus des garde-fous tout au long du cycle de vie du modèle — une approche explicitement recommandée par le NIST .