Trump refuse de freiner l’IA face à l’appel de Dario Amodei pour des garde-fous

Donald Trump aborde l’essor de l’intelligence artificielle avant tout comme une course stratégique contre la Chine. Le président américain a affirmé que les États-Unis devaient conserver leur avance, car « celui qui gagne l’IA gagne ». Il a ensuite qualifié de « HOAX » l’idée que l’IA puisse prendre le contrôle du monde ou détruire l’humanité, et décrit l’opposition à l’IA et aux centres de données comme une « conspiration » malsaine dont la Chine serait la bénéficiaire. 1719

Pourquoi Trump s’en est pris à Dario Amodei

Cette charge fait suite à l’appel de Dario Amodei, directeur général d’Anthropic, à ralentir volontairement la progression des systèmes d’IA les plus puissants — souvent qualifiés d’IA « de frontière ». Les deux hommes partent de priorités opposées : Trump met l’accent sur le maintien du leadership technologique américain, tandis qu’Amodei estime que les capacités des modèles pourraient progresser plus vite que les pratiques de sûreté, les tests et les mécanismes de contrôle. 17

Trump a aussi soutenu que les autorités disposaient déjà de pouvoirs pénaux et réglementaires importants, et qu’un président fort constituait le garde-fou nécessaire. Sa critique d’Amodei mêle donc le rejet des alertes sur les risques existentiels et la crainte que des contraintes formelles ne désavantagent les entreprises américaines face à leurs rivales chinoises. 1921

Ce que propose « We Must Pace the Frontier »

Dans son texte We Must Pace the Frontier, Dario Amodei ne demande pas de mettre fin à la recherche en IA. Son plan en trois volets vise à ralentir suffisamment l’accroissement non contrôlé des capacités afin que la recherche en sûreté, les évaluations et la gouvernance puissent suivre le rythme.

1. Des évaluateurs indépendants permanents au sein des laboratoires de pointe. Anthropic s’est engagé à accorder à des évaluateurs tiers un accès continu à ses systèmes, comparable à celui d’un salarié. Ils devraient pouvoir vérifier les pratiques de sûreté, signaler les incidents et évaluer l’alignement des modèles pendant leur entraînement — c’est-à-dire leur conformité aux objectifs et contraintes fixés par leurs concepteurs. 16
2. Une coordination entre les entreprises à la pointe de l’IA. Le plan appelle les principaux laboratoires à définir des normes de sécurité communes et des limites à une course aux capacités toujours plus rapides.
3. Une coopération internationale. Selon Amodei, la gestion des risques les plus graves ne pourra pas reposer durablement sur un seul pays ou un seul bloc géopolitique.

Le premier point n’est pas seulement une demande adressée aux gouvernements ou aux concurrents : Anthropic le présente comme un engagement immédiat de sa part. 16

Soutiens, mais pas encore de cadre commun

Sam Altman, le patron d’OpenAI, a déclaré partager l’idée qu’il fallait « rythmer » le développement de l’IA de frontière et a indiqué qu’OpenAI offrirait également un accès à des évaluateurs externes. Elon Musk, qui dirige xAI, a lui aussi approuvé la position d’Amodei.

Satya Nadella, directeur général de Microsoft, a salué l’idée d’un rythme de développement délibéré et celle d’évaluateurs intégrés. Il a toutefois posé une condition importante : la supervision ne doit pas être contrôlée par une poignée d’entreprises. Toute recherche vers la superintelligence, a-t-il estimé, devrait bénéficier à l’humanité et rester sous contrôle humain.

Ces prises de position ne constituent pas un régime réglementaire commun. Elles signalent néanmoins qu’une partie des dirigeants du secteur est favorable à un contrôle plus durable et plus structuré des systèmes les plus avancés.

Le problème central : se retenir seul face à la Chine

Jacob Coxon, ancien chercheur chez Anthropic et OpenAI, a déclaré que des personnes développant ces systèmes étaient « véritablement effrayées » pour l’avenir de l’humanité. Il a accueilli favorablement l’idée d’un ralentissement, tout en soulignant qu’il devrait être coordonné avec la Chine. 1

C’est le nœud du débat : une entreprise ou un pays qui ralentit seul peut redouter de perdre du terrain face à des concurrents qui ne s’imposent pas les mêmes limites. Le ministère chinois des Affaires étrangères a rejeté les appels d’Amodei à limiter les capacités chinoises en IA, y voyant une tentative américaine d’endiguer la Chine plutôt qu’une gouvernance neutre de la sécurité. 4

Il en résulte un déficit de confiance. Pour les partisans de règles réciproques, elles réduiraient les risques ; pour leurs opposants, elles peuvent être perçues comme un moyen de préserver l’avance technologique d’un rival.

La critique : la sécurité peut-elle protéger les acteurs déjà dominants ?

L’investisseur Michael Burry a qualifié la campagne en faveur d’un ralentissement de démarche « intéressée ». Selon lui, un développement plus lent et des obligations de conformité plus lourdes pourraient avantager les grands groupes déjà établis, en rendant l’entrée plus difficile pour de nouveaux concurrents. Il conteste aussi l’idée que les grands modèles de langage actuels soient sur une trajectoire menant à l’intelligence artificielle générale, ou AGI.

Cette critique ne réfute pas, à elle seule, les préoccupations de sûreté. Elle met en lumière un risque concret de politique publique : des règles pensées pour sécuriser l’IA de pointe pourraient aussi renforcer la concentration du pouvoir entre les mains des entreprises les mieux armées pour les respecter. Un cadre crédible devrait donc traiter à la fois la sécurité et cette concentration.

Pourquoi la rencontre Trump-Xi du 24 septembre était importante

Trump et le dirigeant chinois Xi Jinping devaient notamment discuter de la gouvernance de l’IA lors d’une réunion prévue le 24 septembre. 4 L’enjeu dépasse l’écriture de règles applicables à un seul laboratoire : toute stratégie de sécurité pour l’IA de frontière doit produire des arrangements que des puissances rivales jugent à la fois réciproques et vérifiables.

Le cadrage très axé sur la Chine adopté par Trump, comme l’opposition de Pékin à des limitations de son développement en IA, illustrent la difficulté de l’exercice. Le débat ne se résume donc pas à « accélérer ou faire une pause » : il porte sur la possibilité de gouverner la course à l’IA sans que la sécurité devienne un nouveau terrain d’affrontement géopolitique. 174