「人間の制御を失う前に」：Anthropicと教皇レオ14世がフロンティアAIの一時停止を訴える

最先端AIをめぐる開発競争が激化するなか、シリコンバレーの有力AI企業とカトリック教会のトップが、ほぼ同じタイミングで「待った」をかけている。背景にあるのは、AIシステムが人間の手を離れて自己増殖する「再帰的自己改良（recursive self-improvement）」への切迫した懸念だ。

Anthropicの警告：AIがAIを生む「危険な加速」

Chat「Claude」を開発するAnthropicは2026年6月4日、「When AI builds itself（AIが自らを構築する時）」と題する報告書を公開。フロンティアAI開発の世界的な一時停止または大幅な減速を提案した。

研究者のマリナ・ファヴァーロとジャック・クラークが執筆した同報告書は、Anthropic社内データを根拠に驚異的な進歩の速さを明かしている。2026年5月時点で、同社のコードベースにマージされたコードの80％以上をClaude自身が記述。エンジニア1人あたりの1日のマージ量は2024年比で約8倍に達した。

報告書の核心は「再帰的自己改良」への警戒だ。AIシステムが自らより高性能な後継を自律的に設計・構築・訓練できる状態——人類がループから外れる瞬間——が「遠い未来の話ではなくなりつつある」と警鐘を鳴らす。同社はまだその段階には至っていないとしつつ、「到来は大半の機関が想定するより早いかもしれない」と釘を刺す。

Anthropicはこの提案を業界の「ブレーキペダル」と表現。クラーク共同創業者はBBCの取材で「アクセルから足を離し、ブレーキを踏む選択肢を持ちたい」と語っている。ただし同社は、他社が同調せず単独で減速した場合、かえって慎重さを欠く競合に後れを取るリスクも認めており、条件は「検証可能な国際的合意」としている。

教皇レオ14世の回勅『Magnifica Humanitas』：人間の尊厳を軸にしたAI規制論

教皇レオ14世は2026年5月25日、初の回勅『Magnifica Humanitas（荘厳なる人間性）』を公布した。約4万3000語に及ぶこの文書は、歴史上初めて人工知能に全面的に焦点を当てた教皇公文書である。

回勅は1891年のレオ13世回勅『Rerum Novarum』（労働問題を扱った社会教説の原点）を明確にアップデートし、デジタルプラットフォームやアルゴリズム、データ集中といった現代の課題に適用した。

注目すべきは、大企業への厳しい視線だ。教皇は「ビッグテックとその経営者が利益のために乱用する権力を蓄積しつつある」と警告し、「AIが人間の尊厳を尊重し真に共通善に奉仕するには、強力な規制が必要だ」と主張している。また、AIによる自律的発展を聖書の「バベルの塔」になぞらえ、神を排除した未来を築こうとする人間の傲慢さを戒めた。

回勅の核心にある一文は「人工知能は今、武装解除されなければならない。すなわち、AIを支配・排除・破壊の道具へと変える枠組みから解放されなければならない」というものだ。教皇は「慎重さ、厳格な評価、時には採用を遅らせることを求めるのは、進歩に反対することではない。それは人間家族に対する責任ある配慮の実践である」と説いている。

異例の協力関係：バチカンとシリコンバレーの架け橋

両者が単に似た警告を発しただけでなく、実際に協力関係にある点が今回の動きの特異性を際立たせている。

2026年5月25日の回勅発表会には、Anthropic共同創業者のクリス・オラーが登壇。AI企業のトップがバチカンで教皇の回勅発表に参加するという異例の事態となった。

この関係は突如生まれたわけではない。Anthropicは以前から、自社AIモデル「Claude」の倫理指針「クロード憲法」（約2万3000語）を策定する際にカトリックの思想家に相談していた。シリコンバレー出身の司祭で同憲法の策定にも関与したブレンダン・マクガイア師は、「『Magnifica Humanitas』は教会とテクノロジー業界との間のより深い対話の扉を開いた」と語る。

さらに、回勅発表から2週間も経たないうちに、カトリック系AI専門家がAnthropicの一時停止呼びかけを公然と支持。「教皇レオ14世の最近の懸念と呼応している」と賞賛し、同社が価値観と技術開発を照合している点を評価した。

なぜ今、この2者なのか——補完し合う二つの論理

Anthropicは技術的安全性と「人間の制御喪失」というリスクモデルから語る。バチカンは人間の尊厳と共通善という道徳・神学の枠組みから語る。出自も方法論も異なるが、結論は驚くほど一致している。

フロンティアAIの進化は、社会のガバナンスや倫理の適応速度を上回っている。人間の監視と尊厳を守るためには、国際的に調整された一時停止・減速が必要だ。

ひとつの観測が指摘するように、両者は「社会が急速な技術変化に追いつけなくなる」リスクと、「協調的で検証可能な減速はおそらく良いことである」という結論で一致している。

Anthropicの呼びかけは即座に業界全体の賛同を得るとは限らず、実効性を疑問視する声もある。しかし、AI企業自身が「自らを止める選択肢」を世界に提案したこと、そしてその声がバチカンという異色のパートナーから補強されたことの意味は小さくない。