Le Pape Léon XIV et le cofondateur d'Anthropic s'allient pour « désarmer » l'intelligence artificielle

Ce qu'exige l'encyclique : « Désarmer » l'IA et rejeter la « culture de la puissance »

Magnifica Humanitas n'est pas une réflexion prudente sur la technologie ; c'est un manifeste ambitieux, assorti d'exigences concrètes en matière de gouvernance. Le document, signé le 15 mai et présenté par le Pape lui-même lors du discours de clôture, défend une vision de l'IA qui s'oppose frontalement à la trajectoire actuelle de l'industrie .

1. Désarmement et IA « respectueuse de l'humain »
Le Pape Léon XIV a explicitement appelé à ce que l'intelligence artificielle soit « désarmée » et rendue « respectueuse de l'humain », mettant en garde contre « une course aux algorithmes toujours plus puissants et aux modèles de langage toujours plus grands » qui déshumanise les individus . Ces mots ne font pas du développement débridé de l'IA un progrès, mais une forme de course aux armements qui menacerait la dignité humaine elle-même.

2. Une régulation robuste pour le bien commun
Le souverain pontife a insisté pour que les développeurs d'IA œuvrent pour le bien commun plutôt que pour le seul profit, en réclamant des cadres juridiques et réglementaires solides . L'encyclique est formelle : on ne peut confier au marché seul l'orientation de l'IA au service de l'humanité.

3. Interdire les armes autonomes
Parmi ses exigences les plus concrètes, Magnifica Humanitas condamne l'usage de l'IA dans la guerre et appelle à l'interdiction des systèmes d'armes létales autonomes. Pour le Pape, il est moralement inadmissible de confier des décisions létales et irréversibles à des systèmes d'IA .

4. Protéger les travailleurs
Faisant écho à la longue tradition sociale de l'Église sur le travail, le texte avertit que l'IA ne doit pas servir à exploiter les travailleurs ni à remplacer le travail humain sans transitions et protections justes. Il dénonce les « nouvelles formes d'esclavage » tapies derrière l'IA, des modérateurs de contenu aux mineurs de matières premières .

5. Rejeter une « culture de la puissance »
Léon XIV a fustigé la mentalité techno-solutionniste qui fait de l'IA une fin en soi, comparant la tentative de bâtir un avenir technologique qui exclurait Dieu à la Tour de Babel biblique . Ce cadre théologique assimile le développement incontrôlé de l'IA à un acte d'orgueil démesuré. Le troisième chapitre, intitulé « Technologie et domination », développe cet argument et appelle à une responsabilité claire à chaque étape du développement de l'IA .

Le Vatican a renforcé son engagement institutionnel en créant, le 16 mai, une nouvelle commission sur l'IA, chargée de coordonner les activités liées à cette technologie à travers les institutions vaticanes et de définir des politiques internes .

Les propos de Christopher Olah : sécurité, humilité et engagement moral

Les transcriptions verbatim complètes des interventions d'Olah lors de la table ronde n'ont pas été largement diffusées, mais les comptes rendus de l'événement et les annonces préalables en dessinent les grandes lignes . S'exprimant en tant qu'intervenant laïc aux côtés de cardinaux et de théologiens éminents, Christopher Olah a utilisé cette tribune historique pour défendre une vision de l'IA qui épouse l'éthique de sécurité d'Anthropic.

Selon les sources disponibles, Olah a présenté l'IA comme un enjeu moral partagé, affirmant que son développement n'est pas qu'un défi technique mais une question de dignité humaine qui exige une large contribution de la société — y compris, explicitement, celle des traditions religieuses . Il a souligné la nécessité d'un développement axé sur la sécurité, insistant sur le fait que les systèmes d'IA doivent comporter des garde-fous solides et que l'industrie doit faire primer le bien-être humain sur une concurrence effrénée . Dans une rupture notable avec la rhétorique techno-utopiste, il a reconnu que les chercheurs en IA n'ont pas toutes les réponses et doivent s'engager sérieusement auprès de cadres éthiques extérieurs au monde de la tech, citant la doctrine sociale de l'Église comme une ressource précieuse .

Sa présence est historique : c'est la première fois qu'un dirigeant d'une grande entreprise d'IA se tient aux côtés d'un pape pour le lancement d'une encyclique. Ce symbole n'a échappé à aucun observateur : il suggère qu'Anthropic voit dans l'Église une alliée institutionnelle de poids pour promouvoir des normes de sécurité dans la gouvernance de l'IA .

La stratégie derrière la scène : le dialogue d'Anthropic avec les institutions religieuses

L'événement du 25 mai n'était pas une séance photo improvisée. Il constitue l'aboutissement public d'une stratégie délibérée et de longue haleine menée par Anthropic pour construire des ponts avec les traditions religieuses et de sagesse.

Dans un communiqué de presse du 19 mai, Anthropic a révélé avoir passé « ces derniers mois » à organiser des dialogues entre ses chercheurs et des responsables du Vatican — théologiens et éthiciens — afin de bâtir une compréhension commune des risques et des dimensions morales de l'IA . L'entreprise a précisé que sa première série de discussions avait mobilisé « plus de 15 groupes religieux et interculturels », dans le cadre d'un effort plus large pour ancrer le développement de son IA dans des traditions morales extérieures au secteur technologique .

Les engagements plus larges d'Anthropic sont encore plus révélateurs. Plusieurs mois avant l'événement au Vatican, l'entreprise a travaillé avec un prêtre catholique et d'autres leaders religieux pour façonner directement la « Constitution de Claude », l'ensemble de principes directeurs qui régissent le comportement de son IA . C'est Olah lui-même qui a initié ce contact, cherchant de l'aide pour encoder des valeurs éthiques dans les systèmes de l'entreprise. Cela reflète la mission fondatrice d'Anthropic : construire une IA « utile, honnête et inoffensive » et mener des recherches de sécurité avant tout déploiement — des valeurs qui résonnent naturellement avec l'accent mis par le Vatican sur la dignité humaine et la prudence .

La présence d'Olah à Rome indique que l'entreprise considère l'Église comme un partenaire institutionnel sérieux dans la conversation mondiale sur la régulation de l'IA — un partenaire doté d'une autorité morale et d'une portée planétaire qu'aucun consortium technologique ou régulateur national ne peut égaler . En l'invitant à co-présenter l'encyclique, le Vatican a offert à cette stratégie sa plus éclatante validation.

Dans un monde où le développement de l'IA s'accélère, Magnifica Humanitas et son lancement historique constituent une exigence limpide : la technologie doit servir l'humain, et non le dominer. Pour Anthropic, se tenir aux côtés du Pape est un signal clair quant au camp qu'elle entend choisir dans ce débat crucial.