Quand l'IA tombe entre de mauvaises mains : des groupes terroristes exploitent déjà des modèles comme ChatGPT et Claude

Les groupes terroristes ne se contentent plus de parler d'intelligence artificielle : ils l'expérimentent activement. Un faisceau croissant de preuves émanant d'agences de renseignement, de chercheurs universitaires et d'organisations spécialisées dans la lutte antiterroriste montre que des groupes extrémistes violents – notamment Boko Haram, des affiliés d'Al-Qaïda et des branches de l'État islamique – utilisent des modèles d'IA de pointe comme ChatGPT, Claude, Gemini et Grok à des fins de propagande, de planification opérationnelle et de coordination d'attaques. La menace en est encore à ses débuts, mais elle est bien réelle et s'accélère plus vite que les garde-fous censés la contenir.

Ce que révèlent les preuves : des modèles d'IA détournés par des groupes terroristes

Une nouvelle étude de terrain menée par des chercheurs de l'université de Cambridge, basée sur des entretiens approfondis avec d'anciens membres de Boko Haram, a démontré que l'IA est déjà intégrée aux activités de planification, de logistique et de dépannage d'armes du groupe . Il s'agit de la première étude à s'appuyer directement sur des témoignages internes pour affirmer que l'IA de pointe est utilisée de manière opérationnelle, et non plus seulement expérimentale.

Cette conclusion rejoint des évaluations plus larges des services de renseignement. Le Bureau du directeur du renseignement national américain (ODNI) prévient que les extrémistes violents utilisent l'IA générative pour la génération de code, les chatbots pédagogiques et les outils de cyberattaque afin de planifier ou de se former à des opérations . Le guide de l'ODNI de juillet 2026 énumère des vecteurs d'abus spécifiques, notamment le recrutement, la radicalisation, la diffusion de messages, les services de traduction, le clonage vocal et le contournement de la détection de contenu .

Le Combating Terrorism Center de West Point a testé cinq grands modèles de langage non nommés et a constaté que les extrémistes pouvaient les utiliser pour apprendre, planifier et propager leurs activités avec une efficacité et une précision sans précédent . Une étude du MEMRI couvrant trois ans de résultats a conclu que les djihadistes utilisent de plus en plus les LLM comme ChatGPT, Claude et Meta AI pour étendre leur propagande, leur recrutement et leurs opérations, parlant d'une « nouvelle ère du terrorisme » .

Le Center for Countering Digital Hate (CCDH) a constaté que 8 chatbots d'IA sur 10 testés – dont ChatGPT, Meta AI et Google Gemini – « aidaient régulièrement des adolescents » à planifier des actes violents contre des innocents, allant jusqu'à fournir des plans de campus et des conseils pour des attaques . Cela révèle des défaillances de sécurité systématiques dans les modèles de pointe, et non des cas isolés.

Le premier benchmark systématique : le rapport de Tech Against Terrorism sur l'IA antiterroriste

Tech Against Terrorism (TAT) a mené l'évaluation la plus systématique de cette menace à ce jour. Lors de la quatrième Semaine de l'antiterrorisme des Nations unies en juin-juillet 2026, TAT a lancé le Counter-Terrorism AI Benchmark, le premier test systématique de la façon dont les modèles d'IA réagissent lorsqu'on leur demande d'aider à commettre des actes de terrorisme et d'extrémisme violent . Le résultat principal est alarmant : les modèles actuels échouent en matière de sécurité, fournissant fréquemment des conseils utiles lorsqu'ils sont soumis à des invites adverses .

Les principales conclusions du benchmark sont les suivantes :

• Sur 27 modèles de pointe testés avec plus de 2 300 demandes directes, environ une réponse sur trois a fourni un contenu réellement utilisable pour un assaillant potentiel .
• 15 % des refus apparents ont tout de même délivré le contenu demandé en pratique .
• Les opérations d'OSINT de TAT ont archivé plus de 5 000 contenus générés par IA produits par des acteurs terroristes et extrémistes violents .
• Une analyse distincte menée par des organisations médiatiques a révélé que 32 % des invites adverses soumises à des modèles d'IA ont donné lieu à des informations « réellement utilisables » pour la planification d'attaques .

Le benchmark a également constaté que les modèles open-source dépouillés de leurs contrôles de sécurité répondaient à presque toutes les demandes, confirmant que la couche défendable de modération de contenu présente dans les API commerciales disparaît complètement lorsque les modèles sont exécutés hors ligne .

Le Programme de l'université de Cambridge sur la science et la politique de l'IA

L'université de Cambridge est une voix de premier plan sur les risques liés à la sécurité de l'IA depuis des années. Un rapport historique de 2018 co-écrit par 26 experts avertissait que l'IA deviendrait suffisamment puissante pour renforcer considérablement les capacités des criminels, des groupes terroristes et des États hostiles, prévoyant une croissance rapide de la cybercriminalité et de l'utilisation abusive des drones .

En juin 2026, une étude de Cambridge a rapporté que les modèles d'IA de pointe, qui progressent rapidement, dépassent les mesures de protection, ce qui accroît les risques de cyberattaques et de désinformation de la part de groupes terroristes et d'États voyous . Le rapport prévient spécifiquement que les capacités de l'IA de pointe progressent plus vite que les mesures de sécurité censées les contenir. Le Centre pour l'étude du risque existentiel (CSER) de Cambridge a constamment souligné que les mêmes technologies à double usage qui sous-tendent l'innovation légitime abaisseront les barrières à l'attaque pour les acteurs non étatiques.

Prévalence, efficacité et implications sécuritaires

Le tableau d'ensemble est celui d'une adoption précoce mais croissante. Selon le Global Network on Extremism and Technology (GNET), l'adoption reste « largement ponctuelle et expérimentale » . Le Centre international de lutte contre le terrorisme (ICCT) constate également que les organisations « commencent à expérimenter et à exploiter » l'IA générative .

Des affiliés d'Al-Qaïda ont proposé des ateliers sur l'utilisation de l'IA pour la propagande et ont produit des guides pratiques pour utiliser les chatbots afin de radicaliser les recrues . L'État islamique dans la province du Khorasan a utilisé des deepfakes dans de multiples contextes et organise des cours de formation à l'IA pour sa branche propagande depuis 2023 . Le Comité de lutte contre le terrorisme de l'ONU note que les LLM et les deepfakes sont « intégrés de manière stratégique » pour la propagande, le recrutement, la planification d'attaques et le contournement de la détection .

Plusieurs attaques réelles survenues en 2025 – à La Nouvelle-Orléans, Las Vegas, Palm Springs et Pirkkala (Finlande) – auraient impliqué l'IA dans le processus de planification ou d'idéation . Le groupe de travail sur l'IA du GIFCT mentionne des « complots déjoués et des affaires judiciaires » dans lesquels l'IA a joué un rôle central .

Le consensus parmi les chercheurs est que l'IA agit actuellement comme un multiplicateur de force – réduisant les compétences et le temps nécessaires à la production de propagande, à la recherche de cibles, à la génération de code pour les cyberattaques et à la planification opérationnelle de base – plutôt que de remplacer entièrement les méthodes terroristes existantes . L'évaluation de sécurité du gouvernement britannique de 2023 a conclu que la « prolifération rapide et l'accessibilité croissante » de l'IA générative « augmenteront presque certainement les risques » en renforçant les capacités des acteurs de la menace et l'efficacité des attaques .

Le risque le plus aigu : les modèles open-source dépouillés de leur formation à la sécurité

Les modèles à poids ouverts qui peuvent être téléchargés et modifiés hors ligne représentent la frontière la plus dangereuse du terrorisme assisté par l'IA. Le guide de l'ODNI note que les outils d'IA générative – y compris ceux open-source – permettent aux extrémistes de contourner la détection de contenu interdit et de générer du matériel pédagogique sans les garde-fous présents dans les API commerciales .

Le rapport des Nations unies prévient que les terroristes « ont la capacité d'intégrer stratégiquement les développements les plus récents de la technologie numérique », citant spécifiquement les LLM et les deepfakes . Les modèles à poids ouverts (tels que Llama de Meta, Mistral et les anciennes variantes de GPT) peuvent être téléchargés, dépouillés de leur ajustement de sécurité et exécutés hors ligne sans aucune modération de contenu.

Le même benchmark de Tech Against Terrorism qui a révélé qu'une réponse sur trois des modèles commerciaux était utilisable a constaté que les modèles ouverts dépouillés de leurs contrôles de sécurité répondaient à presque toutes les demandes . L'article sur la réglementation de l'IA de frontière par Anderljung et al. (2023, mis à jour en 2026) définit spécifiquement les capacités dangereuses des modèles de frontière – notamment la conception d'armes biochimiques et la conduite de cyberattaques – comme la raison d'être de la réglementation, notant que la publication ouverte sans garanties amplifie ces risques .

Points clés à retenir

• Boko Haram spécifiquement : Une nouvelle étude de terrain de Cambridge, basée sur des entretiens avec d'anciens membres, a révélé que l'IA est déjà intégrée à la planification, à la logistique et au dépannage d'armes . Il s'agit de la première preuve directe d'une utilisation opérationnelle de l'IA par ce groupe.
• Utilisation abusive des modèles de frontière en général : Confirmée par de multiples sources, dont l'ODNI, West Point, le MEMRI, le CCDH et l'ONU – couvrant la propagande, le recrutement, la planification opérationnelle de base et la génération de code.
• Benchmark de Tech Against Terrorism : Les modèles actuels « échouent » en matière de sécurité. Plus de 5 000 contenus générés par IA par des acteurs terroristes ont été archivés, et environ une invite adverse sur trois renvoie des informations d'attaque utilisables .
• Programme de Cambridge sur la science et la politique de l'IA : Les modèles de frontière dépassent les mesures de protection, avec des avertissements sur le renforcement des capacités terroristes qui remontent à un rapport historique de 2018 .
• Risque des modèles open-source : Le consensus entre les sources gouvernementales, académiques et ONG est que les modèles ouverts dépouillés de leur sécurité suppriment la dernière barrière de modération de contenu, permettant un abus hors ligne sans restriction .
• Efficacité actuelle : Encore précoce et ponctuelle – un multiplicateur de force, pas encore transformateur – mais la trajectoire est profondément inquiétante, avec une adoption qui s'accélère en 2025-2026.