Pékin alerte sur l’IA : deepfakes, espionnage et guerre de l’information

Pour Chen Yixin, ministre chinois de la Sécurité d’État, l’IA n’est pas seulement une technologie susceptible de devenir dangereuse : elle constitue d’abord un risque pour la stabilité politique de la Chine et pour son autonomie technologique. Il estime que des adversaires pourraient s’en servir pour fragiliser le pays sur les plans politique, institutionnel et idéologique, collecter des données sensibles ou imposer un ordre technologique dominé de l’extérieur. 2

Deepfakes, bots et « guerre cognitive »

Dans son avertissement, Chen Yixin évoque l’utilisation potentielle des deepfakes, de textes et d’images produits par IA, ainsi que de comptes automatisés sur les réseaux sociaux. Ces outils pourraient, selon lui, fabriquer des rumeurs politiques, diffuser des informations jugées nuisibles et amplifier les divisions. Ils pourraient aussi servir à des « guerres de l’opinion publique » et à des opérations de « guerre cognitive », menaçant directement la sécurité politique, institutionnelle et idéologique de la Chine. 2

Données, espionnage et infrastructures critiques

Le ministre souligne également la capacité de l’IA à agréger, analyser et établir des profils à partir de gigantesques volumes de données. Cette puissance pourrait faciliter les activités de renseignement étrangères, notamment l’obtention de secrets d’État, d’informations commerciales ou de données personnelles. 23

Il relie en outre les systèmes d’IA avancés à la sécurité des infrastructures d’information critiques. Chen Yixin mentionne leur aptitude croissante à détecter des failles informatiques et à générer des logiciels malveillants, ou des programmes capables d’exploiter ces vulnérabilités. 2

La souveraineté technologique au cœur du discours

La lecture de Pékin est aussi géopolitique. Chen présente l’IA comme un terrain de concurrence stratégique où les pays les plus avancés peuvent invoquer la sécurité nationale pour imposer des restrictions technologiques, peser sur les normes et bâtir des écosystèmes fermés. 2

La conséquence politique est claire : développer des capacités nationales, renforcer le contrôle de l’État sur les données, les algorithmes et les infrastructures, et réduire la dépendance à l’égard des technologies étrangères. 2

Une approche différente de celle d’Amodei, Altman et Musk

Le dirigeant d’Anthropic, Dario Amodei, appelle lui aussi à ralentir la progression des capacités des modèles les plus avancés. Mais son cadre est celui du contrôle des capacités et de la prévention de risques catastrophiques largement partagés. Il propose notamment des évaluateurs indépendants intégrés, disposant d’un accès comparable à celui de salariés, une coordination entre entreprises et gouvernements démocratiques sur des normes communes, puis une coopération internationale plus large. 1

Sam Altman, d’OpenAI, a déclaré soutenir l’idée de « cadencer la frontière » technologique et s’est dit favorable à des évaluateurs tiers bénéficiant d’un accès substantiel. Elon Musk a, pour sa part, résumé son soutien en trois mots : « Dario a raison. » 1

Chen Yixin raisonne différemment : le danger central n’est pas seulement qu’une IA très puissante devienne difficile à maîtriser pour tous, mais qu’elle soit utilisée pour affaiblir le pouvoir du Parti communiste chinois, extraire des données chinoises ou prolonger un avantage technologique occidental. La notion de sécurité englobe donc le contrôle de l’information, les contrôles de sécurité et la maîtrise des technologies stratégiques. 2

Il existe toutefois un point de rencontre limité. La Chine a elle aussi identifié la possible perte de contrôle sur des IA de plus en plus autonomes comme un risque futur. Cela peut ouvrir un espace de discussion entre Washington et Pékin sur la supervision des systèmes avancés, sans pour autant effacer les désaccords majeurs sur les puces, les modèles, les standards et les règles de gouvernance. 3

La réaction officielle et médiatique chinoise illustre cette fracture : les appels occidentaux à ralentir l’IA ont été présentés comme motivés par la crainte, toxiques pour la compétition ou destinés à freiner les progrès technologiques chinois, plutôt que comme une démarche de sûreté neutre. 2