L’appel d’Anthropic à freiner l’IA déclenche un bras de fer entre sécurité, marchés et géopolitique

L’appel de Dario Amodei, dirigeant d’Anthropic, à ralentir l’amélioration des modèles d’IA les plus puissants a vite dépassé le seul débat sur la sécurité. Il a créé un rare front commun public entre dirigeants de laboratoires concurrents, repoussé l’introduction en Bourse attendue d’OpenAI au-delà de 2026, ébranlé les valeurs exposées à l’IA et suscité un rejet frontal de Donald Trump. 1710

Ce que propose Dario Amodei

Dario Amodei ne réclame pas l’arrêt de la recherche en IA. Son idée est de « réguler le rythme de la frontière » : ralentir délibérément la vitesse à laquelle les laboratoires de pointe accroissent les capacités de leurs modèles, afin de laisser à la sûreté, à la supervision et à la coordination le temps de suivre. Il estime que des systèmes toujours plus capables pourraient devenir plus difficiles à comprendre et à contrôler, notamment s’ils contribuent de manière significative à construire la génération suivante d’IA. 177

Son plan repose sur trois axes :

1. Un contrôle indépendant au sein des laboratoires de pointe. Anthropic a annoncé qu’il donnerait à des évaluateurs tiers un accès permanent à ses systèmes, comparable à celui de ses salariés. Ils pourraient vérifier le respect des mesures de sûreté, signaler des incidents et évaluer l’alignement des modèles pendant leur entraînement. 17
2. Une coordination entre les entreprises développant les IA les plus avancées. Amodei appelle à des normes de sûreté communes et à des limites destinées à éviter une course à la performance sans garde-fous. 17
3. Une coopération internationale. La proposition suppose un travail commun entre gouvernements pour gérer les risques liés aux IA avancées. 17

Le premier volet est particulièrement important : une partie de l’évaluation de la sûreté sortirait du seul cadre interne de l’entreprise. Il ne s’agit pas d’un audit externe ponctuel, mais d’un accès durable et d’un contrôle continu.

Sam Altman approuve — et repousse l’IPO d’OpenAI

Sam Altman, patron d’OpenAI, a publiquement soutenu la position de Dario Amodei, affirmant qu’OpenAI devait elle aussi « réguler le rythme de la frontière ». Cette prise de position a été décrite comme un signe d’accord inhabituel entre deux rivaux majeurs dans la course aux modèles toujours plus puissants. 1

Il y a joint une décision lourde de conséquences : OpenAI ne sera pas introduite en Bourse en 2026. Sam Altman a jugé qu’une IPO serait, à ce stade, « mal avisée », estimant que l’entreprise avait encore d’importants travaux à accomplir sur la sûreté et l’alignement. Selon Reuters, il considère qu’une probabilité même de 10 % d’extinction de l’humanité causée par l’IA avant la fin de la décennie est inacceptable.

Concrètement, OpenAI présente donc le travail de sûreté comme une priorité susceptible de l’emporter sur le calendrier de l’une des entrées en Bourse les plus attendues du secteur technologique. Cette position ne fournit pas de calendrier public détaillé pour ralentir les modèles, mais elle engage l’entreprise en faveur d’une progression plus prudente.

Les alertes de chercheurs qui ont précédé l’appel

Le débat a été alimenté par la démission de Jacob Coxon, chercheur ayant déclaré avoir travaillé sur la recherche de pré-entraînement chez OpenAI comme chez Anthropic. Il a accusé les deux entreprises de « jouer avec nos vies » dans leur course à des systèmes d’IA capables de s’améliorer eux-mêmes. 18

Les discussions ont aussi porté sur les propos d’Evan Hubinger, responsable de la science de l’alignement chez Anthropic. D’après CNBC, il estime personnellement à plus de 10 % la probabilité que l’IA tue tous les humains au cours de cette décennie. Il s’agit d’une appréciation individuelle rapportée dans le débat public, et non d’une estimation officielle d’Anthropic ni d’une prévision démontrée.

Ces avertissements ont rendu plus immédiate une controverse longtemps restée théorique sur les risques catastrophiques de l’IA : les laboratoires doivent-ils continuer à maximiser les gains de capacité alors que les mécanismes de protection sont encore en cours d’élaboration ?

Pourquoi les actions liées à l’IA ont reculé

Les investisseurs ont interprété l’appel au ralentissement comme une menace potentielle pour les hypothèses qui sous-tendent la flambée boursière de l’IA : amélioration continue des modèles, dépenses massives en puissance de calcul et forte demande de puces et d’infrastructures associées. Les valeurs asiatiques liées à l’IA ont chuté après les annonces, tandis que les contrats à terme sur les actions américaines reculaient aussi.

À Tokyo, SoftBank, investisseur majeur d’OpenAI, a perdu jusqu’à 13,2 %, selon Reuters. La réaction s’est propagée aux autres titres asiatiques exposés à l’IA. D’autres informations faisaient état d’un recul d’environ 1,5 % des contrats à terme sur le Nasdaq avant l’ouverture, les fabricants de puces étant particulièrement sous pression.

Ce mouvement de marché ne prouve pas que les investissements dans l’IA ou la demande de puces vont s’effondrer. Il traduit plutôt une réévaluation du risque : si les avancées des modèles de pointe sont volontairement contraintes ou retardées, les revenus et rendements attendus des développeurs de modèles, fournisseurs d’infrastructures et véhicules d’investissement liés à l’IA pourraient arriver plus tard qu’anticipé.

Donald Trump rejette l’idée d’un ralentissement

Donald Trump a rejeté l’appel à ralentir, présentant avant tout l’IA comme une compétition pour le leadership stratégique américain face à la Chine. « Whoever wins AI wins » — « celui qui gagne l’IA gagne », a-t-il déclaré, en affirmant que les États-Unis étaient en avance et devaient le rester. 10

Cette réaction résume le conflit politique au cœur du dossier. Les défenseurs de la sûreté estiment que davantage de temps pour les tests, la recherche sur l’alignement et une supervision indépendante peut réduire le risque de dommages graves. Les opposants à un ralentissement craignent qu’une retenue unilatérale ne profite à des États ou des entreprises qui continueraient à accroître leurs capacités sans contraintes comparables. 1710

Dario Amodei a lui-même reconnu que l’absence de coopération internationale — notamment de la part de pays adversaires tels que la Chine — constituait le problème le plus difficile pour un régime de progression maîtrisée. Une politique applicable seulement à certains laboratoires de pointe pourrait faire peser les coûts commerciaux et géopolitiques sur les entreprises les plus prudentes, sans mettre fin à la course aux capacités.

Ce que cette crise change pour les entreprises d’IA et les marchés

L’épisode révèle un mélange inhabituel de consensus et de confrontation :

• Les dirigeants de laboratoires s’accordent sur le besoin de renforcer la sûreté. Sam Altman a soutenu l’appel de Dario Amodei, tandis qu’Anthropic s’est engagé à intégrer une évaluation tierce dans la durée.
• Les modalités concrètes restent ouvertes. Soutenir une progression « régulée » ne crée pas, à lui seul, de seuils communs, de mécanismes de contrôle ou d’accord international contraignant. 17
• L’IPO d’OpenAI est directement affectée. Sam Altman a exclu une cotation en 2026 en invoquant les priorités de sûreté.
• Le parcours boursier d’Anthropic reste moins clair à partir des informations disponibles. Les sources établissent son engagement envers les évaluateurs indépendants et sa proposition de politique générale, mais ne montrent pas qu’Anthropic a officiellement modifié le calendrier d’une IPO en raison de ce différend.

Au fond, le débat ne porte pas simplement sur la question de savoir si l’IA doit progresser. Il porte sur l’acteur qui en fixe le rythme, sur les preuves indépendantes à exiger avant de rendre des modèles plus capables, et sur la capacité des engagements de sûreté à résister aux pressions commerciales et géopolitiques qui poussent à aller plus vite. 1710