Chen Yixin alerte sur l’IA : Pékin redoute la désinformation, l’espionnage et les cyberattaques

Chen Yixin présente avant tout l’intelligence artificielle comme un enjeu de sécurité nationale et de sécurité du régime. Dans un article publié par le magazine officiel China Cyberspace, le ministre chinois de la Sécurité d’État avertit que la progression rapide de l’IA, si elle est exploitée de manière malveillante, pourrait menacer directement la sécurité politique, institutionnelle et idéologique de la Chine. 57

Désinformation, influence et guerre cognitive

Chen identifie six catégories de risques liés à l’IA. Parmi les plus sensibles à ses yeux figurent les opérations d’influence : des forces hostiles pourraient se servir de faux audios ou vidéos (deepfakes), d’images et de textes générés par IA, ainsi que de comptes automatisés sur les réseaux sociaux pour fabriquer à grande échelle des rumeurs politiques, diffuser des contenus jugés nuisibles et attiser les antagonismes sociaux. Il décrit ces usages comme des formes de guerre de l’opinion publique et de guerre cognitive. 57

Dans cette lecture, l’enjeu ne se limite donc pas aux fausses informations en ligne : il touche à la stabilité politique et au contrôle de l’espace informationnel.

Cyberattaques et fuite de données

Le ministre met également en garde contre le fait que l’IA abaisse le coût et le niveau technique nécessaires aux intrusions informatiques et à la création de logiciels malveillants. Les modèles d’IA peuvent notamment aider à repérer des failles dans des systèmes et à concevoir des programmes capables de les exploiter. 3513

Chen évoque aussi le risque d’une collecte de renseignements et de fuites massives concernant des secrets d’État, des données commerciales sensibles et les informations personnelles des citoyens. Selon lui, des outils tels que les robots d’exploration du web, l’extraction de données et le profilage assisté par IA peuvent renforcer les capacités des services de renseignement étrangers. 719

Les infrastructures critiques et la gouvernance sociale font partie des secteurs que ces usages pourraient mettre en danger. 31113

La souveraineté technologique au centre du message chinois

L’avertissement de Chen Yixin s’inscrit dans une vision plus large de la compétition internationale sur l’IA. Il dépeint un environnement où les grandes puissances invoquent la sécurité nationale pour imposer des restrictions technologiques, peser sur les normes ou développer des écosystèmes fermés et propriétaires. 57

Pour Pékin, la sécurité de l’IA est ainsi indissociable de la dépendance technologique, de la maîtrise des chaînes d’approvisionnement et du risque de confinement technologique par des pays rivaux. Le ministre a notamment cité les risques que des modèles américains avancés pourraient faire peser sur les infrastructures chinoises d’information critiques. 3

Une inquiétude différente de celle exprimée dans la Silicon Valley

Cette prise de position intervient alors que Dario Amodei, le dirigeant d’Anthropic, appelle lui aussi à ralentir le rythme de progression des capacités des modèles de pointe. Son argument est cependant différent : il redoute que des systèmes trop puissants ne deviennent difficiles à aligner, à sécuriser et à gouverner, avec des risques allant des cyberattaques à des usages scientifiques dangereux. 122

Dans son texte « We Must Pace the Frontier », Amodei ne demande pas l’arrêt de la recherche. Il propose plutôt de laisser le temps aux mécanismes d’alignement, aux protections de sécurité et aux tests externes de rattraper l’accélération des capacités. Son plan comprend des évaluateurs indépendants disposant d’un accès durable comparable à celui d’employés, des engagements communs des entreprises de pointe et une coordination internationale plus large. 122

Sam Altman, patron d’OpenAI, a annoncé que son entreprise adopterait le principe d’évaluateurs indépendants avec un accès de niveau employé. Elon Musk a également soutenu l’appel d’Amodei à mieux cadencer le développement. 101

Un dialogue sino-américain compliqué, mais pas impossible

Les deux approches se rejoignent sur certains dangers : cybercriminalité, espionnage, désinformation et applications militaires. Mais elles divergent sur le cadre politique. Pékin insiste sur la stabilité intérieure, l’autorité du Parti communiste, la souveraineté des données et l’absence de coercition technologique étrangère ; le discours des laboratoires occidentaux met davantage l’accent sur les capacités des modèles, les évaluations de sûreté et le risque de perte de contrôle humain. 5712

Des discussions États-Unis–Chine sur la sûreté de l’IA étaient prévues à la mi-septembre, dans ce qui devait être le premier dialogue bilatéral du second mandat de Donald Trump consacré spécifiquement à ce sujet. 4 Un accord sur des mesures concrètes — lutte contre les cyberattaques assistées par IA, fraude par contenus synthétiques, signalement d’incidents ou canaux de communication sur les risques militaires — pourrait être plus accessible qu’un consensus sur des limites universelles de capacités ou des évaluations externes communes.

Le texte de Chen Yixin montre en tout cas que, pour Pékin, la régulation de l’IA ne sera pas seulement une question de sécurité technique : elle relève aussi du rapport de force technologique et de la souveraineté nationale.