IA de pointe : Amodei, Altman et Musk appellent à ralentir, Trump s’y oppose

L’épisode a créé un alignement public rare entre dirigeants d’entreprises d’IA pourtant rivales. Dario Amodei, patron d’Anthropic, a réclamé un ralentissement volontaire des progrès de capacité des modèles d’IA de pointe ; Sam Altman, dirigeant d’OpenAI, et Elon Musk, fondateur de xAI, ont approuvé cette orientation générale. Il ne s’agit toutefois ni de la preuve que des agents autonomes incontrôlés ont déjà pris le contrôle d’internet, ni de l’annonce d’un gel international contraignant, ni de la confirmation d’un report formel de l’introduction en Bourse d’OpenAI. 16

Le scénario redouté par Dario Amodei

Amodei a averti que, sans décélération, l’IA pourrait, dans un délai de six à douze mois, être en mesure de piloter un essaim d’agents capable de prendre le contrôle d’une large part d’internet. C’est une évaluation prospective du risque, pas le récit d’un fait déjà constaté. 1

Son objectif n’est pas d’interdire la recherche en IA. Il propose de mettre à profit le temps gagné pour renforcer les protections : contrôle externe, pratiques de sécurité partagées par le secteur et coordination internationale. 16

Parmi les mesures avancées figurent des évaluateurs indépendants disposant d’un accès durable et comparable à celui de salariés, afin de vérifier les mécanismes de sécurité, de signaler les incidents et d’évaluer l’alignement des modèles pendant leur entraînement. 8

Altman et Musk soutiennent l’idée de « rythmer » le progrès

Sam Altman a soutenu l’idée de mieux cadencer les avancées de l’IA de pointe et de renforcer les mesures de sûreté. Il a également approuvé le principe d’évaluateurs indépendants bénéficiant d’un accès étendu aux systèmes d’OpenAI. 613

Certaines informations ont évoqué la possibilité qu’OpenAI diffère son introduction en Bourse pour privilégier la sécurité. Mais il s’agissait d’une éventualité ou d’une suggestion rapportée, et non d’un report officiellement confirmé. 7

Elon Musk a lui aussi appuyé l’appel d’Amodei, malgré la concurrence entre xAI, Anthropic et OpenAI. 6

Le rapport d’Anthropic sur les usages malveillants de Claude

Cet appel intervient peu après la publication par Anthropic d’un rapport affirmant avoir interrompu des tentatives d’usage de Claude liées à des recherches susceptibles de contribuer au développement d’armes biologiques, ainsi qu’à des activités cybernétiques présumées. L’entreprise a également affirmé que des concurrents chinois avaient tenté d’obtenir ou de reproduire certaines capacités associées à Claude. Ces éléments sont des allégations d’Anthropic, et non des conclusions établies de façon indépendante. 23

Le rapport couvre aussi des tentatives de détournement dans plusieurs domaines, notamment les cyberopérations, l’influence, la surveillance, les escroqueries, la recherche biologique, les armes conventionnelles et l’extraction non autorisée de capacités de modèles. 17

Trump privilégie la compétition avec la Chine

Donald Trump a rejeté l’idée de freiner nettement l’effort américain. Il a présenté l’IA avant tout comme un enjeu de rivalité stratégique avec la Chine, déclarant : « whoever wins AI, wins » — autrement dit, « celui qui gagne l’IA gagne ». 10

Cette position s’oppose à la logique défendue par Amodei : pour Trump, un ralentissement unilatéral risquerait surtout de faire perdre aux États-Unis leur avance technologique. 10

Un débat ouvert entre pause, règles contraignantes et risque concurrentiel

Les réactions se répartissent entre plusieurs lignes :

• Des défenseurs d’une approche centrée sur la sécurité, dont Bernie Sanders, jugent qu’un ralentissement volontaire ne suffit pas. Il a appelé Trump et le président chinois Xi Jinping à négocier un traité visant à suspendre les travaux les plus avancés et à interdire la superintelligence artificielle. 5
• Les partisans d’une accélération et les voix axées sur la sécurité nationale craignent au contraire qu’un durcissement réglementaire ou une pause américaine ne laisse le champ libre à la Chine. La réponse de Trump s’inscrit dans cette lecture. 10
• Le débat politique et financier porte donc sur l’efficacité de simples engagements volontaires des entreprises, sur l’éventuelle nécessité de règles applicables adoptées par le Congrès américain, et sur les conséquences concurrentielles ou boursières d’un ralentissement brutal.

Les sources disponibles ne permettent pas d’établir de manière fiable les positions précises attribuées à Mike Johnson, Hakeem Jeffries, David Sacks, Alex Karp, Josh Gottheimer ou à certains investisseurs. Elles ne permettent pas non plus de confirmer un agenda commun Trump-Xi au-delà de la proposition formulée par Bernie Sanders, ni de vérifier les détails de la démission de Jacob Coxon.