ローマ教皇レオ14世、AI時代の人間の尊厳を問う初の回勅『マグニフィカ・フマニタス』を発表

レオ14世はこのAI開発競争を明確に神学的な枠組みで捉え、冒頭で「人類は今、重大な岐路に立っている。『新たなバベルの塔』を建設するか、それとも神と人類が共に住む都を建設するか」と強い警告を発しています。

しかし、この文書の真の衝撃は、聖書的な比喩表現だけにとどまりません。AIシステムと「現代の奴隷制」を直接結びつけ、「正戦論」の死を厳かに宣言し、シリコンバレーの役員室から政府機関にまで至る一連の「責任の連鎖」を克明に描き出したことにあります。

AIは「現代の奴隷制」のエンジンか

『マグニフィカ・フマニタス』の最も挑戦的な点の一つは、AIによる搾取を単なる比喩や遠い未来のリスクとして扱わず、現在進行形の慣行を実際の奴隷制として分類したことです。回勅は、「デジタル賃金奴隷制」や、労働者から主体性と尊厳を奪うアルゴリズムによる職場監視を、深刻な非人間化の現れとして名指ししています。

これは単なるレトリックの誇張ではありません。「奴隷制」という言葉を呼び起こすことで、レオ14世は、ギグ・エコノミー・プラットフォーム、アルゴリズムで管理された倉庫、搾取的なコンテンツ・モデレーション（投稿監視）といった現実を、教会が歴史的に最も重大な人間の尊厳への侵害に対してのみ用いてきた道徳的枠組みの中に位置づけました。

文書はこのAI駆動型の搾取を「反人間的なビジョン」と断じ、それに対抗するために「社会正義の共通基準」が必要だと主張します。これは、企業の自発的な倫理綱領ではなく、法的拘束力を持つ規範を求める直接的な呼びかけです。

ここには、文書全体を貫く前提があります。つまり、AIは道徳的に中立ではないという考え方です。効率性と利益の最大化のみに最適化されたシステムは、労働者を内在的な尊厳の持ち主としてではなく、使い捨ての部品として扱う運命にあると教皇は警告します。

「正戦論」の放棄

おそらく最も読者を驚かせるセクションは、戦争の扱いに関するものです。バチカンはこれまでにも自律型致死兵器に反対し、人間による有意義な制御を求めてきました。しかし今回の回勅はさらに踏み込み、「正戦論」という枠組みそのものが、人工知能の能力によって完全に時代遅れになったと断言しています。

レオ14世は、「あまりにもしばしば、あらゆる種類の戦争を正当化するために利用されてきた『正戦論』は、今や時代遅れである」と明言。さらに「人工知能の時代にあっては、もはや『正しい戦争』は存在し得ない」とし、正戦論を超え出る「道徳的革命」を呼びかけています。

その理由は実践的かつ神学的です。実践的には、AI搭載の兵器システムが人間の制御を極限まで減らすことで、正戦論の伝統的な基準——均衡性、戦闘員と非戦闘員の区別、正当な権威——を満たすことが不可能になる点を指摘します。神学的には、「正戦論」が歴史的に、正義ではなく権力に仕える紛争を正当化するために拡大解釈されてきたこと、そしてAIがその歪みを不可逆的に加速させる脅威を論じています。

その代わりに教皇が提唱するのは、「責任ある技術革新」と、暴力の「条件管理」から、システム自体の自律化を防ぐ平和構築へのシフトです。

強大なアクターへの責任追及：ビッグテックと政府

『マグニフィカ・フマニタス』は、AIの設計者たちを決して「フック」から外しません。回勅は、第一義的な道徳的責任を「ビッグテック」企業と各国政府に負わせ、その決断をほとんど実存的な言葉で表現しています。

レオ14世は、AIが人間の尊厳を尊重し「共通善」に資することを保証するために、AI開発者と社会に対して「社会正義の共通基準」を導入するよう求めています。これは、単なる企業内の倫理委員会や自主的なガイドラインへの言及ではありません。この言葉は、国境を越えて開発・適用される、何を構築しどう展開できるかを制約する「強制力のある規範」を意味しています。

教皇は、こうした基準がなければ、一握りの強力な組織の決断が「グローバルなカースト制度」、つまり技術力が富と権力を一極集中させ、膨大な人口を不安定な状態へと追いやる世界を作り出すと警告します。

これら強大なアクターに対して、教皇は「人類のために生か死かを選ばなければならない」と明示的に告げています。この定式化は、テクノロジーの「中立性」という言い訳を一切許容しないものです。

単なる技術の試練ではない、人間性の試練

とはいえ、『マグニフィカ・フマニタス』は人工知能を全面的に否定する文書ではありません。回勅はAIを「価値あるツール」であり、真の可能性を秘めていると認めています。しかし、その核心的主張は、その可能性を実現するためには、人類がまず先決問題に答えなければならないというものです。すなわち、「私たちはどのような未来を築きたいのか、そして誰がそれを決めるのか」という問いです。

レオ14世の答えは明快です。人間の尊厳の「超越的な錨（いかり）」を持たず、最適化と搾取に限界を設けない、神なき未来は、必然的に「新たなバベル」となる 。

この回勅は、テクノロジーが人間性を造り変えるのではなく、人間性に奉仕すべきだという要求であり、その要求を無視することは、教会がこれまで扱ってきたのと同等の重大な結果を伴うという警告なのです。