L’IA ne pirate pas encore seule, mais elle industrialise déjà les cyberattaques

L’élément commun aux constats de Google, Anthropic et Microsoft n’est pas que l’IA aurait inventé de nouvelles méthodes d’intrusion. Elle rend surtout les techniques existantes plus répétables, coordonnées et rapides : les modèles peuvent assister la planification, générer du contenu ou du code, aider aux tests, s’adapter aux retours et accroître le volume d’une opération avec moins de travail spécialisé. Les éléments disponibles étayent donc davantage une accélération et une coordination des attaques connues que l’existence de systèmes menant seuls, de bout en bout, des intrusions sans supervision humaine significative. 107

D’un assistant de rédaction à un maillon opérationnel

Le suivi de Google décrit un passage des requêtes ponctuelles à des flux de travail agentiques intégrés. Ceux-ci peuvent couvrir l’analyse automatisée, la collecte d’identifiants, le dépannage et la rotation d’infrastructure. Une opération qui mobilisait auparavant plusieurs outils et intervenants peut ainsi devenir une chaîne itérative beaucoup plus rapide. 11

Cette évolution ne veut pas dire qu’un modèle choisit seul ses cibles, déclenche l’intrusion et décide de ses objectifs. Mais il peut prendre en charge plusieurs étapes liées entre elles, ce qui réduit le temps entre une idée, un test et son déploiement.

Les usages malveillants les plus documentés

Microsoft estime que l’essentiel de l’usage malveillant actuel de l’IA reste la production de texte, de code ou de médias. Les acteurs peuvent notamment s’en servir pour :

• préparer des recherches et des profils de cibles ;
• rédiger et traduire des messages d’hameçonnage ciblé ;
• générer, déboguer ou modifier des scripts et des logiciels malveillants ;
• mettre en place des scripts ou une infrastructure technique ;
• résumer des données dérobées ;
• préparer des contenus d’ingénierie sociale. 10

Le changement majeur tient au coût et à la cadence. Les fautes grossières, les modèles de messages réutilisés et les campagnes peu localisées étaient autrefois des signaux utiles pour les défenseurs. Des contenus plus personnalisés, multilingues et fréquemment renouvelés réduisent l’efficacité des détections fondées sur des signatures ou des gabarits connus. Microsoft indique précisément avoir observé l’emploi de l’IA pour créer et traduire des leurres de phishing. 10

Groupes liés à des États et cybercriminalité : ce que montrent les cas publiés

Anthropic affirme avoir détecté et interrompu des activités impliquant des acteurs liés à la Russie, à la Chine et à l’Iran, ainsi que des groupes motivés par le gain financier. Les cas couvrent les opérations cyber, l’influence, la surveillance, la fraude, les tentatives d’usage dans le domaine biologique et des armes conventionnelles, ainsi que la distillation de modèles. 72

Reuters a notamment rapporté un cas d’espionnage présumé lié à la Russie visant des responsables ukrainiens, ainsi que des allégations d’utilisation abusive de Claude par des entreprises chinoises d’IA. Ces éléments sont des attributions et études de cas publiées par l’entreprise ; ils ne mesurent pas l’ensemble de l’activité malveillante mondiale. 724

L’intérêt opérationnel des approches agentiques apparaît surtout dans la boucle de rétroaction : générer du code, le tester, le modifier lorsqu’un produit de sécurité le détecte, puis recommencer. Des identifiants compromis ou des clés d’API peuvent également fournir à bas coût des ressources de calcul. Le risque réside moins dans une requête isolée que dans cette capacité d’itération accélérée. 87

Le cas ShinyHunters : une attaque classique, mieux industrialisée

Microsoft a attribué des campagnes d’ingénierie sociale autour des passkeys et de l’authentification unique (SSO) visant des comptes Microsoft 365 d’entreprise à des acteurs liés à ShinyHunters, Helix et à d’autres groupes d’extorsion. Le schéma rapporté associe reconnaissance préalable, usurpation d’un service d’assistance informatique, obtention d’un accès puis vol de données dans le cloud. 3

C’est l’illustration d’un point central : l’IA peut améliorer le ciblage et multiplier les leurres, sans démontrer qu’elle a exécuté seule toute l’intrusion. Le vol d’identifiants et l’usurpation d’identité restent des techniques éprouvées ; elles deviennent simplement plus faciles à adapter à chaque victime potentielle.

La « distillation » : quand les modèles deviennent eux-mêmes des cibles

Le tableau ne se limite pas au piratage classique. Google qualifie de « distillation » ou d’extraction de modèle les tentatives consistant à interroger systématiquement Gemini afin d’en extraire des capacités propriétaires. Il s’agit d’un problème de propriété intellectuelle et de protection des capacités des modèles, pas seulement de cybercriminalité traditionnelle. 11

Des publications ont décrit des campagnes impliquant des volumes très élevés de requêtes. L’interprétation prudente est que des acteurs cherchent à reproduire certains comportements utiles de modèles avancés au moyen d’un sondage automatisé via des API, tandis que les fournisseurs tentent d’identifier ces requêtes abusives et de protéger leurs capacités de raisonnement et leurs garde-fous. 118

Une équation économique défavorable aux défenseurs

L’IA diminue le coût marginal de la rédaction, de la localisation linguistique, de la recherche, de l’assistance au code et de la tromperie itérative. Des groupes disposant de peu de moyens — criminels ou hacktivistes — peuvent donc acquérir une partie de la capacité autrefois réservée à des équipes plus importantes. 610

Pour les défenseurs, le défi est de distinguer des communications légitimes de contenus malveillants plus individualisés et qui changent en permanence. Les rapports suggèrent une asymétrie de vitesse et d’échelle, non l’idée que toutes les attaques aidées par l’IA réussiront nécessairement.

Au-delà du phishing : l’enjeu de l’IA responsable

Les questions de contrôle d’accès, de capacités et de surveillance dépassent la seule sécurité informatique. Le rapport d’Anthropic couvre explicitement des tentatives d’usage liées au développement d’armes biologiques et conventionnelles, en plus des opérations cyber. 162

Cela renforce les appels à la surveillance des abus, au contrôle des comptes et des API, aux limites de débit, à la détection de l’extraction de modèles, au partage d’incidents et à des garde-fous spécifiques dans les domaines à fort risque.

La limite importante à garder en tête est que ces publications recensent des cas détectés et perturbés. Elles établissent des capacités et des modes opératoires émergents, mais ne suffisent pas à conclure que les attaques autonomes constituent déjà la forme dominante de cybercriminalité. 7