L’IA Mythos d’Anthropic franchit un seuil inquiétant dans les simulations de cyberattaque

Dans ce type de scénario, l’IA doit enchaîner plusieurs étapes typiques d’une intrusion :

• reconnaissance du réseau ciblé
• identification de failles logicielles
• exploitation de ces vulnérabilités pour obtenir davantage d’accès

Lors des tests, le modèle a été capable d’exécuter ces actions de manière autonome, à condition de disposer d’un accès réseau et d’instructions claires.

Ce point est important : l’IA ne se contente plus de répondre à des questions techniques ou de produire du code isolé. Elle peut désormais planifier et exécuter un enchaînement réaliste d’actions offensives.

Une accélération rapide des capacités cyber de l’IA

Le gouvernement britannique avertit depuis plusieurs mois que les nouveaux modèles d’IA commencent à accomplir des tâches qui nécessitaient auparavant une expertise très spécialisée.

Parmi ces capacités :

• repérer des vulnérabilités dans des logiciels
• écrire du code d’exploitation (exploit)
• accélérer la découverte et l’exploitation de failles

Selon les autorités, cette évolution pourrait augmenter fortement la vitesse et l’ampleur des opérations cyber, par rapport aux attaques menées uniquement par des humains.

Autrement dit, la question pourrait bientôt ne plus être : existe‑t‑il des pirates suffisamment qualifiés ? mais plutôt : qui a accès à des systèmes d’IA capables d’automatiser ces tâches ?

Pourquoi la question du contrôle des modèles devient cruciale

En raison de ces capacités, des modèles comme Mythos ne sont pas diffusés largement.

Anthropic souligne que le système est particulièrement performant dans les tâches liées à la sécurité informatique. L’entreprise a donc choisi de limiter fortement son accès, afin de l’utiliser principalement dans des environnements contrôlés pour la recherche défensive et la découverte de vulnérabilités.

Le dilemme est évident :

• ces outils peuvent aider les chercheurs à trouver et corriger des failles plus vite
• mais ils pourraient aussi réduire la barrière technique pour les attaquants s’ils devenaient accessibles sans restriction

Les inquiétudes autour d’un accès non autorisé

Même avec des restrictions, certains experts s’inquiètent de la difficulté à contenir ce type de technologie.

Des informations relayées par la presse indiquent qu’un petit groupe d’utilisateurs non autorisés aurait accédé au modèle via l’environnement d’un fournisseur tiers. Anthropic a déclaré enquêter sur ces allégations et affirme ne disposer d’aucune preuve que ses propres systèmes aient été compromis. Les détails restent donc incertains.

L’incident illustre néanmoins une inquiétude plus large : des modèles capables d’automatiser des cyberattaques pourraient devenir des cibles particulièrement attractives pour l’espionnage ou le vol technologique.

Le risque d’une « inégalité de défense » face à l’IA

Les chercheurs et décideurs publics évoquent aussi un autre problème émergent : ce qu’on appelle parfois une inégalité de défense.

Les grandes organisations disposant d’outils de cybersécurité basés sur l’IA pourraient :

• analyser leurs systèmes plus rapidement
• détecter des vulnérabilités plus tôt
• corriger les failles avant qu’elles soient exploitées

En revanche, les organisations plus petites pourraient se retrouver confrontées à des attaques accélérées par l’IA sans disposer des mêmes moyens défensifs.

Ce que signifie réellement cette évaluation

Les résultats de l’AISI ne signifient pas que l’IA peut déjà pirater n’importe quel réseau réel.

La simulation s’est déroulée dans un environnement contrôlé et ne reflète pas forcément la résistance de systèmes fortement sécurisés avec des équipes de défense actives.

Mais l’étude montre clairement une tendance : les modèles d’IA les plus avancés commencent à exécuter des opérations cyber complexes de manière autonome dans des scénarios réalistes.

Pour les gouvernements et les professionnels de la sécurité, le défi devient double : améliorer les défenses… tout en contrôlant l’accès à des outils d’IA capables d’accélérer les attaques.