Léon XIV appelle à garder l’intelligence artificielle sous contrôle humain

Le message récent du pape Léon XIV sur l’intelligence artificielle n’est pas un rejet de la technologie. C’est un avertissement sur la question essentielle : qui la contrôle, et que se passe-t-il lorsque la responsabilité humaine est confiée à des machines ?

Lors de deux interventions — le 21 août devant l’International Catholic Legislators Network et le 28 août devant l’International Institute of Administrative Sciences — il a appelé à faire de l’IA une servante du bien commun. Elle doit être guidée par l’intelligence humaine, la conscience et le droit, plutôt que par la seule vitesse, la rentabilité ou le fonctionnement opaque de certains systèmes.

Ces deux discours mettent en pratique le principe central de son encyclique Magnifica Humanitas : le progrès technologique doit être évalué à l’aune de la dignité humaine, de la justice, de la paix et de la capacité réelle des personnes à rester actrices de leur destin. 16

Pour les administrations publiques : ne pas devenir les victimes de ses propres inventions

S’adressant aux membres de l’International Institute of Administrative Sciences, Léon XIV a prévenu que le développement accéléré de l’IA faisait courir à l’humanité le risque de « devenir victime » de ses propres inventions. Il a notamment mis en garde contre le fait de confier à des machines des décisions concernant la vie humaine.

Il ne préconise pas pour autant de renoncer aux technologies numériques. Il appelle plutôt à les humaniser. Les chercheurs et les responsables de l’administration publique doivent, selon lui, trouver les moyens de faire en sorte que les systèmes numériques servent la vie et la paix, en plaçant les personnes — et non les processus automatisés — au centre des décisions publiques.

Cette position fixe une limite claire à l’automatisation : l’IA peut aider l’administration, mais elle ne doit pas effacer le jugement humain, la responsabilité ni l’obligation morale de rendre des comptes lorsque les décisions touchent aux droits, au bien-être ou à la dignité des personnes.

Pour les législateurs : le pouvoir de l’IA se concentre

Dans son discours du 21 août au réseau international des législateurs catholiques, le pape a insisté sur la responsabilité politique des élus. Le Vatican avait placé cette rencontre sous le thème « Dignité humaine et intelligence artificielle : défis, possibilités et contrôle », présentant la gouvernance de l’IA comme l’une des grandes questions de notre époque.

Le problème ne se limite pas aux erreurs que peuvent commettre certains systèmes. Il tient aussi au risque de voir les technologies avancées et le pouvoir d’en déterminer les usages se concentrer entre les mains d’un petit nombre d’acteurs économiques et technologiques majeurs. Léon XIV a averti qu’une telle concentration pourrait rendre les pays plus pauvres de plus en plus dépendants des pays plus riches et aggraver les inégalités existantes.

Il a également prévenu que l’innovation pourrait devenir un instrument de « colonialisme idéologique ou économique ». La gouvernance de l’IA devient alors une question internationale, et pas seulement un sujet de réglementation nationale.

Des algorithmes qui instaurent une domination discrète

Léon XIV a décrit un autre danger : des algorithmes et des plateformes peuvent exercer un pouvoir sans donner l’impression de gouverner directement. Selon lui, les algorithmes peuvent décider qui sera vu et qui restera invisible, tandis que les plateformes numériques façonnent le débat public sans rendre suffisamment de comptes. Les systèmes automatisés peuvent aussi subordonner la dignité des travailleurs à l’optimisation des performances.

Cette inquiétude dépasse la seule question des biais techniques. Elle porte sur ceux qui fixent les règles de la visibilité, de la participation et de l’accès aux opportunités — et sur la possibilité, pour les personnes concernées, de contester véritablement ces décisions.

Lorsque des systèmes privés influencent la conversation publique ou l’accès à l’emploi sans transparence, une partie du pouvoir social peut échapper aux institutions démocratiques et au contrôle des citoyens.

Pourquoi le pape insiste sur la famille

Léon XIV a qualifié la famille de « première école de l’humanité » et demandé aux législateurs d’empêcher l’IA d’affaiblir son rôle.

Son argument est que la formation de la personne commence dans des relations qui enseignent la confiance, la responsabilité, la générosité, le dialogue et l’attention portée aux autres. Ces qualités ne sont pas réductibles à la rapidité ou à la puissance de calcul d’un système d’IA.

Dans Magnifica Humanitas, le pape met de la même façon en garde contre la confusion entre performance des machines et intelligence humaine : les systèmes d’IA peuvent imiter certaines fonctions de l’intelligence et dépasser les êtres humains en vitesse ou en capacité de calcul, mais ils ne possèdent ni expérience humaine ni corporéité. 16

Pour Léon XIV, protéger la vie familiale fait donc partie de la politique de l’IA. Il ne suffit pas de demander si une technologie est efficace. Il faut aussi se demander si son usage soutient les relations et les institutions grâce auxquelles les personnes apprennent la liberté, la responsabilité et la solidarité.

Les garde-fous demandés aux législateurs

Les recommandations du pape dessinent un cadre de gouvernance de l’IA centré sur la personne :

• Protéger les droits et les libertés fondamentales. La législation doit veiller à ce que le progrès technologique ne se fasse pas au détriment de la dignité humaine.
• Préserver la vie privée. Les utilisateurs doivent être protégés contre l’exploitation et les usages inappropriés de leurs données personnelles.
• Imposer la transparence. Les citoyens et les institutions doivent pouvoir comprendre comment les nouvelles technologies sont utilisées et comment sont prises les décisions qui ont des conséquences importantes.
• Renforcer les institutions démocratiques. Les systèmes numériques doivent soutenir une gouvernance publique responsable, et non la contourner.
• Maintenir une responsabilité humaine. Les décisions qui touchent à la vie et à la dignité des personnes ne doivent pas être abandonnées aux machines sans contrôle humain réel.
• Prévenir la domination et les concentrations excessives. La régulation doit tenir compte des risques liés au contrôle de l’IA avancée par un groupe restreint d’acteurs puissants.

Ces mesures reprennent l’idée plus large de l’encyclique selon laquelle la technologie n’est pas socialement neutre. Elle peut favoriser la participation et la justice, mais aussi amplifier les inégalités, le contrôle et l’exclusion.

Dans le prolongement de Magnifica Humanitas

Publiée en mai 2026, Magnifica Humanitas est explicitement consacrée à la protection de la personne humaine à l’ère de l’intelligence artificielle. Son critère central est de savoir si la technologie reste orientée vers l’humanité, au lieu de devenir un instrument de domination, d’exclusion ou de guerre. L’encyclique appelle à « désarmer » l’IA de ces logiques destructrices. 51016

Les discours d’août traduisent ce principe en responsabilités concrètes pour deux catégories d’acteurs. Les responsables de l’administration publique doivent s’assurer que les systèmes numériques servent les citoyens et préservent le jugement humain. Les législateurs doivent établir des règles protégeant les droits, la vie privée, la transparence et la vie démocratique. Les chercheurs, eux, sont invités à identifier des moyens pratiques de mettre les technologies numériques au service de la vie et de la paix.

Pris ensemble, ces avertissements ont une portée préventive. Léon XIV demande aux sociétés d’établir des règles centrées sur l’être humain alors que les systèmes d’IA sont encore en cours de développement et de déploiement — et non une fois que les plateformes opaques, le pouvoir concentré et les décisions automatisées seront devenus trop ancrés pour être contestés.

Le critère proposé est simple : l’IA doit contribuer au bien commun sans écarter les êtres humains chargés de le définir et de le défendre.