Andrew Ng veut recentrer la sécurité de l’IA sur les risques concrets

Andrew Ng ne soutient pas que l’intelligence artificielle serait sans danger. Son point est plus précis : les prédictions d’une extinction humaine imminente sont, selon lui, trop spéculatives pour devenir le principe directeur des politiques sur l’IA.

Dans une interview diffusée le 17 septembre sur Bloomberg TV, le cofondateur de Google Brain a qualifié ces scénarios de « beaucoup plus science-fiction que science ». Pour lui, la sûreté de l’IA doit relever d’une démarche d’ingénierie : tester les systèmes, installer des protections, puis les améliorer à mesure que de nouveaux problèmes apparaissent. 2

Une IA imparfaitement prévisible, mais améliorable

Andrew Ng reconnaît que les systèmes d’IA ne seront jamais parfaitement prévisibles. Mais, à ses yeux, cette limite ne justifie pas d’arrêter ou de freiner largement leur développement. Des tests, des garde-fous et un travail d’ingénierie peuvent progressivement améliorer leur sécurité, a-t-il affirmé. Il prévient aussi qu’un ralentissement généralisé pourrait retarder les progrès mêmes de la sûreté. 2

Autrement dit, il ne promet pas un contrôle absolu. Il défend l’idée qu’une technologie utile peut atteindre un niveau de fiabilité acceptable grâce à un cycle continu d’évaluation, de correction et de déploiement prudent — comme dans d’autres disciplines d’ingénierie.

Pourquoi il critique le récit catastrophiste

Ng estime que les avertissements sur un risque existentiel pourraient empêcher la société de tirer pleinement parti des bénéfices de l’IA. Il a aussi déclaré que le secteur technologique avait, plus tôt dans le boom de l’IA, alimenté les craintes de dommages catastrophiques afin de gagner en visibilité et d’influencer la réglementation. 1

Son objection concerne donc autant les incitations que l’évaluation du risque. Des affirmations spectaculaires captent l’attention, tandis que les choix réglementaires déterminent quels acteurs supportent les coûts de conformité. Ng ne demande pas l’abandon des travaux de sûreté ; il conteste le fait de présenter l’extinction comme une conclusion scientifique établie ou comme le motif d’une pause globale.

Les priorités qu’il met en avant

Son approche privilégie la réduction de risques pratiques. Les comptes rendus de son intervention citent notamment la cybersécurité parmi les sujets à traiter en priorité. 5

Concrètement, cela implique :

• des tests rigoureux, avant et pendant le déploiement ;
• des garde-fous pour limiter les défaillances déjà identifiées ;
• une amélioration itérative de la fiabilité lorsque de nouveaux défauts sont découverts ;
• une attention aux préjudices prévisibles, dont les risques cyber, plutôt qu’une concentration de l’action publique sur les scénarios d’extinction. 25

Face aux partisans d’un ralentissement des modèles de pointe

D’autres responsables et chercheurs de l’IA jugent que les risques de perte de contrôle sont suffisamment plausibles pour justifier de ralentir volontairement les progrès des systèmes les plus avancés, souvent appelés « modèles de pointe ».

Jacob Coxon : un risque jugé bien plus élevé

Ancien chercheur d’Anthropic et d’OpenAI, Jacob Coxon a quitté Anthropic et averti qu’une course rapide vers des systèmes capables de s’améliorer eux-mêmes pourrait être catastrophique. Il a appelé à un ralentissement et salué la proposition d’Anthropic visant à mieux cadencer le développement. 3343

Dario Amodei : gagner du temps pour les protections

Le directeur général d’Anthropic, Dario Amodei, a demandé aux entreprises de ralentir l’amélioration des capacités de leurs modèles. Son objectif est de dégager du temps pour gérer les risques, notamment au moyen d’un cadre prévoyant l’intervention d’évaluateurs indépendants. 18

Sam Altman : un soutien au principe de cadence

Sam Altman, directeur général d’OpenAI, a approuvé le principe de la proposition d’Amodei. Il a engagé OpenAI à mettre en œuvre l’une de ses garanties : donner à des évaluateurs externes un accès significatif pour examiner les pratiques de sûreté. 1924

Geoffrey Hinton : la crainte d’une perte de contrôle

Geoffrey Hinton a déclaré qu’il existait un « risque significatif » que l’IA échappe au contrôle humain. Il soutient un ralentissement et des mesures telles que des tests avant la mise sur le marché, jugeant les gouvernements trop lents à agir. 20

Le désaccord est donc double : il porte à la fois sur la probabilité d’une perte de contrôle et sur la réponse politique à y apporter. Coxon, Amodei, Altman et Hinton considèrent ce risque assez crédible pour justifier un rythme délibérément plus prudent pour les systèmes les plus avancés. Ng estime, lui, que les scénarios d’extinction ne sont pas assez étayés et que la priorité doit aller aux défaillances concrètes et traitables. 21820

Des opposants au ralentissement, mais pas pour les mêmes raisons

Le refus d’un ralentissement généralisé ne place pas automatiquement Andrew Ng dans le même camp que les dirigeants politiques et industriels qui s’y opposent aussi.

• Jensen Huang, directeur général de Nvidia, a estimé que le secteur n’avait pas besoin de nouvelles lois ou réglementations. 53
• Mark Zuckerberg, directeur général de Meta, a jugé qu’un ralentissement à l’échelle de l’industrie était inutile, la concurrence et les incitations du marché poussant selon lui les entreprises à sécuriser leurs modèles. 55
• Donald Trump a qualifié les craintes d’une IA incontrôlable de « canular » et affirmé que les États-Unis disposaient déjà des outils nécessaires pour réglementer et poursuivre les entreprises du secteur. 4950
• Un porte-parole du ministère chinois des Affaires étrangères a repoussé les appels à ralentir le développement de l’IA de pointe. 52

Ces positions aboutissent à une même conclusion pratique — ne pas imposer de pause générale — mais leurs justifications diffèrent. L’argument de Ng est principalement technique : traiter les dommages mesurables et améliorer les contrôles. Huang, Zuckerberg, Trump et les autorités chinoises ont davantage mis l’accent, à des degrés divers, sur la réticence à de nouvelles contraintes, les mécanismes de marché, la concurrence ou la stratégie nationale. 250525355

Une convergence limitée sur le risque cyber

Le débat ne sépare pas simplement ceux qui se soucient de la sécurité de ceux qui s’en désintéressent. Aidan Gomez, directeur général de Cohere, a par exemple déclaré que les modèles d’IA étaient devenus de puissantes armes cybernétiques, capables d’identifier et d’exploiter des vulnérabilités à grande échelle. 62

Cette préoccupation se rapproche de l’appel de Ng à traiter les risques concrets de cybersécurité. Les sources disponibles ne permettent toutefois pas d’établir la position complète de Gomez sur un ralentissement sectoriel ou sur la gouvernance internationale de l’IA. Elles ne permettent pas non plus de caractériser de manière fiable la position de l’investisseur Steve Eisman sur ces questions.

À retenir

Andrew Ng cherche à déplacer le centre de gravité du débat : la question n’est pas de savoir s’il faut rendre l’IA plus sûre, mais si des scénarios spéculatifs d’extinction doivent fixer l’ordre des priorités. Sa réponse est non. Il plaide pour les tests, les garde-fous et l’ingénierie appliqués aux préjudices actuels et identifiables, et contre un ralentissement général qui, selon lui, pourrait freiner à la fois l’innovation et les progrès de la sécurité. 12