教皇レオ14世のAI警告――機械を人間の管理下に置くために必要なこと

教皇レオ14世がAIについて発したメッセージは、技術そのものの否定ではない。焦点は、誰がAIを管理するのか、そして人間の責任を機械に委ねたとき何が起きるのかという点にある。

教皇は8月21日、国際カトリック議員ネットワーク（International Catholic Legislators Network）に向けて演説し、同月28日には国際行政科学研究所（International Institute of Administrative Sciences）の関係者にも語りかけた。いずれの場でも、AIは人間の知性、良心、法に導かれ、速度や利益、説明のつかないシステムに支配されるのではなく、共通善に仕える存在でなければならないと訴えた。

この考え方の土台にあるのが、2026年5月に発表された回勅（教皇が社会や信徒に向けて示す公式文書）Magnifica Humanitas だ。同文書は、技術の進歩を評価する基準として、人間の尊厳、正義、平和、そして自らの人生や社会を形づくる人間の主体性を挙げている。16

行政関係者への警告――人間は自らの発明の犠牲になりうる

国際行政科学研究所の関係者を前に、レオ14世はAIの急速な発展について、人類が自ら生み出した発明の「犠牲になる」可能性があると警告した。特に、生命に関わる判断を機械に委ねることへの懸念を示している。

ただし、教皇が求めたのはデジタル技術から離れることではない。むしろ、技術を人間中心のものへと変えていくことだ。公共行政の研究者に対しては、デジタルシステムが生命と平和に奉仕するための方法を探り、行政の意思決定の中心に人間を置き続けるよう促した。

ここには、AIによる自動化に対する明確な限界が示されている。AIは行政を支援できても、人々の権利、福祉、尊厳に関わる判断に必要な人間の熟慮、責任、道徳的な説明責任まで消し去ってはならない。

議員への警告――AIの力が一部に集中している

8月21日の国際カトリック議員ネットワークでの演説では、教皇は立法を担う政治家の責任に焦点を当てた。この会合のテーマは「人間の尊厳と人工知能――課題、可能性、統制」。バチカンはAIの統治を「現代を形づくる決定的な問い」の一つと位置づけている。

問題は、AIが誤った判断をする可能性だけではない。高度な技術と、その利用方法を決める力が、少数の巨大な経済・テクノロジー主体に集中することも大きなリスクだ。レオ14世は、この集中が貧しい国々を豊かな国々に依存させ、既存の格差をさらに広げる可能性を指摘した。

また、イノベーションが「イデオロギー的または経済的な植民地主義」の手段になりうるとも警告した。AIの統治は、一国の規制だけで完結する問題ではなく、国家間の関係や世界的な公正にも関わる課題だという意味である。

アルゴリズムは見えにくい支配を生み出す

レオ14世が示したもう一つの懸念は、アルゴリズムやデジタルプラットフォームが、直接的に統治しているようには見えないまま社会的な力を行使することだ。

アルゴリズムは、誰が人々の目に触れ、誰が見えない存在になるかを左右する。プラットフォームは十分な説明責任を負わないまま公共的な議論の形を変え、労働者の尊厳がシステムの最適化に従属させられることもあるという。

これは単なる技術的なバイアスの問題にとどまらない。可視性、参加の機会、仕事へのアクセスを決めるルールを誰が設定しているのか。そして、その決定に影響を受けた人が異議を申し立てられるのかが問われている。

民間のシステムが透明性のないまま世論形成や雇用機会に影響を与えるなら、社会の力は民主的な制度や公共の監視から、説明責任を負わない仕組みへと移ってしまう可能性がある。

なぜ「家族」を強調したのか

レオ14世は、家族を「人間性の最初の学校」と表現し、AIによってその役割が損なわれないよう議員に求めた。

人は、信頼、責任、寛大さ、対話、他者への配慮といったものを、人間関係の中で学んでいく。こうした営みは、AIの処理速度や計算能力と同じものではない。Magnifica Humanitas も、機械の性能を人間の知性と混同してはならないと指摘する。AIシステムは知性の一部の機能を模倣し、速度や計算能力で人間を上回ることはあっても、人間の経験や身体性を持つわけではない。16

そのため教皇にとって、家族を守ることはAI政策の一部でもある。問われているのは、システムが効率的かどうかだけではない。その利用が、人々に自由、責任、連帯を学ばせる人間関係や社会制度を支えるものになっているかどうかだ。

教皇が求めるAI統治の safeguards

レオ14世の提言は、人間中心のAI統治に向けた次のような枠組みに整理できる。

• 基本的人権と自由を守る。 技術の進歩が人間の尊厳を犠牲にしないよう、法制度で保障する。
• プライバシーを保護する。 利用者を搾取や個人情報の不適切な利用から守る。
• 透明性を求める。 新しい技術がどのように使われ、重大な判断がどのように下されるのかを、人々と組織が理解できるようにする。
• 民主的な制度を強化する。 デジタルシステムが、説明責任のある公共統治を迂回するのではなく、支えるようにする。
• 責任を人間の側に残す。 生命や尊厳に影響する判断を、意味のある人間の管理なしに機械へ引き渡さない。
• 支配と過度な集中を防ぐ。 高度なAIが少数の強力な主体に握られることで生じるリスクに対応する。

これらの提言は、技術が社会的に中立なものではないという回勅の主張とも重なる。技術は参加や正義を促すことができる一方で、不平等、管理、排除を強めることもある。

Magnifica Humanitas を現実の政策へ

2026年5月に発表された Magnifica Humanitas は、AI時代に人間を守ることを正面から扱った文書だ。その中心的な問いは、技術が人間のために方向づけられているか、それとも支配、排除、戦争の道具になっているかである。回勅は、AIからこうした破壊的な論理を「武装解除」するよう呼びかけている。51016

8月の2つの演説は、この原則を具体的な責任へと置き換えた。行政関係者はデジタルシステムが市民に奉仕し、人間の判断を守るようにしなければならない。議員は、権利、プライバシー、透明性、民主的な社会を守るルールを整備する必要がある。研究者には、デジタル技術を生命と平和に役立てる実践的な方法を見つける役割がある。

レオ14世の警告は、事後対応ではなく予防を求めるものだ。透明性のないプラットフォーム、集中した権力、自動化された意思決定が社会に深く根づき、民主的な手段で問い直すことが難しくなる前に、人間中心のルールをつくるべきだというのである。

教皇が示す基準はシンプルだ。AIは共通善を広げるべきであり、その共通善を定義し、守る責任を担う人間に取って代わってはならない。