Anthropic et le Vatican main dans la main sur l'IA : pourquoi une pause mondiale du développement de pointe est urgente

L'avertissement d'Anthropic : le risque de l'auto-amélioration récursive

Le rapport d'Anthropic, rédigé par les chercheuses Marina Favaro et Jack Clark, dresse un tableau saisissant de la rapidité avec laquelle les capacités de l'IA s'accélèrent. La société a indiqué qu'en mai 2026, Claude était l'auteur de plus de 80 % du code fusionné dans la base de code d'Anthropic, et que l'ingénieur type fusionnait désormais environ huit fois plus de code par jour qu'en 2024 . Les auteurs préviennent que cette trajectoire mène vers une auto-amélioration récursive, un processus par lequel les systèmes d'IA conçoivent, construisent et entraînent de manière autonome leurs propres successeurs, sans que les humains ne pilotent chaque étape .

L'entreprise a déclaré ne pas avoir encore atteint ce point, et que ce résultat n'est pas inévitable, mais a ajouté une mise en garde : « Cela pourrait arriver plus tôt que la plupart des institutions ne sont prêtes à le gérer » .

Les préoccupations centrales

• Perte de contrôle humain. La préoccupation centrale d'Anthropic est que les progrès de l'IA pourraient dépasser les cadres de sécurité et de gouvernance existants, faisant de la supervision humaine la principale contrainte au progrès technologique . L'entreprise a averti que les humains risquent de perdre tout contrôle si le développement se poursuit sans vérification .
• Une « pédale de frein » pour l'industrie. Anthropic a présenté son appel à une pause comme la construction d'une « pédale de frein » pour l'industrie — une option pour ralentir ou arrêter temporairement le développement de l'IA de pointe afin de permettre aux structures sociétales et à la recherche d'alignement de suivre le rythme . Clark a déclaré à BBC Newsnight : « Vous voulez avoir la possibilité de lever le pied de l'accélérateur et d'appuyer sur le frein » .
• Conditionnelle, pas unilatérale. Anthropic a déclaré qu'elle soutiendrait une pause uniquement si d'autres développeurs de premier plan se joignaient à l'initiative et que la conformité pouvait être vérifiée de manière indépendante . L'entreprise a noté que si un ralentissement permet simplement aux entités moins prudentes de rattraper leur retard, cela pourrait, en fin de compte, compromettre la sécurité pour tous .
• Engagement des décideurs politiques. Parallèlement, la société a annoncé son intention de réunir des décideurs politiques pour aborder les dangers de l'IA avancée .

Magnifica Humanitas du Vatican : un cadre moral pour l'IA

Publiée le 25 mai 2026, Magnifica Humanitas compte environ 43 000 mots et est centrée sur la « sauvegarde de la personne humaine à l'ère de l'intelligence artificielle » . Le document actualise explicitement l'encyclique Rerum Novarum de Léon XIII (1891) — qui traitait du travail à l'ère industrielle — et applique sa logique aux plateformes numériques, aux algorithmes, à l'automatisation et à la concentration des données .

Alignements clés avec l'avertissement d'Anthropic

• Appel à une réglementation solide. Le pape a exhorté à un contrôle strict de l'IA et a averti que les géants de la technologie et leurs dirigeants pourraient accumuler un pouvoir qu'ils abuseraient à des fins lucratives . Le pape Léon a soutenu que les fournisseurs d'IA doivent considérer l'éthique de leurs actions, déclarant : « Pour que l'IA respecte la dignité humaine et serve véritablement le bien commun, elle a besoin d'une réglementation forte » .
• Mise en garde contre l'autonomie incontrôlée. L'encyclique a mis en garde les entreprises d'IA contre la construction d'« une nouvelle Tour de Babel » — un parallèle moral avec l'inquiétude d'Anthropic concernant des systèmes échappant au contrôle humain . Le document compare un avenir de l'IA qui exclut Dieu à l'histoire biblique, mettant en garde contre l'arrogance humaine .
• La dignité humaine comme étalon. Magnifica Humanitas soutient que l'IA doit servir le bien commun et l'épanouissement humain, et non être motivée par la seule accélération concurrentielle . La phrase centrale de l'encyclique est la suivante : « L'intelligence artificielle doit maintenant être désarmée, libérée des cadres qui la transforment en instrument de contrôle, d'exclusion et de destruction » .
• Appel à un rythme plus lent. Le pape Léon a écrit qu'appeler à la prudence, à une évaluation rigoureuse et même, parfois, à un rythme plus lent dans l'adoption de l'IA ne signifie pas s'opposer au progrès ; il s'agit au contraire d'« un exercice de responsabilité envers la famille humaine » .

Collaboration directe entre Anthropic et le Vatican

L'alignement entre les deux institutions va au-delà d'avertissements parallèles. Dans un rare geste de coopération institutionnelle, le cofondateur d'Anthropic, Chris Olah, a pris la parole lors de la présentation de Magnifica Humanitas au Vatican le 25 mai 2026, soulignant une relation unique entre un laboratoire d'IA et le Saint-Siège . Cette apparition a signalé une alliance rare alors que les deux parties appelaient à un examen moral plus approfondi de l'intelligence artificielle .

Des liens entre les deux parties existaient déjà. Anthropic avait auparavant consulté des penseurs catholiques lors de l'élaboration de la « Constitution de Claude », le cadre éthique de 23 000 mots qui guide ses modèles d'IA . Le père Brendan McGuire, prêtre et ancien cadre de la Silicon Valley, a contribué à façonner cette constitution et a noté que Magnifica Humanitas a ouvert la voie à des conversations plus approfondies entre l'Église et l'industrie technologique .

Moins de deux semaines après la publication de l'encyclique, des experts catholiques en IA ont publiquement salué l'appel à la pause d'Anthropic, notant qu'il « faisait écho aux récentes préoccupations du pape Léon XIV » et félicitant l'entreprise pour avoir mis ses valeurs en regard d'un développement rapide . Des théologiens moralistes catholiques avaient également précédemment déposé un mémoire d'amicus curiae en faveur d'Anthropic dans un différend avec le Pentagone concernant le refus de l'entreprise d'autoriser l'utilisation de ses systèmes d'IA pour la surveillance de masse ou les armes autonomes .

Une thèse commune et des forces complémentaires

Anthropic et le Vatican convergent vers une thèse centrale : le développement de l'IA de pointe s'accélère plus vite que la gouvernance et l'éthique ne peuvent s'adapter, et une pause ou un ralentissement délibéré est nécessaire pour préserver la supervision humaine, la dignité et le bien commun. La contribution de l'Église ajoute un cadre moral et théologique robuste — ancré dans la dignité humaine, le bien commun et la protection des personnes vulnérables — qui complète le raisonnement technique et sécuritaire d'Anthropic .

Comme l'a résumé un observateur, les deux institutions soutiennent que « la société peut avoir du mal à suivre le rythme des progrès technologiques rapides » et qu'un ralentissement est « probablement une bonne chose » — à condition qu'il soit coordonné, vérifiable et qu'il ne serve pas simplement d'outil à des concurrents moins prudents pour gagner du terrain .