AI 自建AI的危機：Anthropic與教宗方濟各十四世為何齊聲呼籲暫緩前緣開發

全球領先的AI公司正在爭相建造功能愈來愈強大的系統，但一個由主要AI實驗室與天主教會組成的罕見聯盟，如今卻呼籲刻意放緩腳步。2026年6月4日，聊天機器人Claude的開發商Anthropic 發布了一份題為〈當AI自行建造AI〉（When AI builds itself）的報告，提議對前緣AI開發進行全球協調的暫停或有意義的減速 。這份警告的核心，是一種稱為遞歸自我改良（recursive self-improvement）的情境：當AI系統變得足夠強大，能夠自主設計、建造並訓練其後繼者，可能就此逃脫人類的監督 。

僅僅十天前，也就是2026年5月25日，教宗方濟各十四世發布了他的首道教宗通諭《Magnifica Humanitas》（「輝煌的人性」）——這是教會教導文獻史上第一份完全致力於人工智慧的文件 。這兩個機構出自截然不同的世界：一個植根於技術與安全研究，另一個則立足於神學與道德哲學。然而，它們的核心訊息卻驚人地相似：前緣AI的進展速度已超越治理與倫理所能調適的步調，為了保護人類，有必要按下暫停鍵 。

Anthropic 的警訊：遞歸自我改良的風險

由研究員瑪麗娜·法瓦羅（Marina Favaro）與傑克·克拉克（Jack Clark）共同撰寫的這份報告，描繪了一幅AI能力加速發展的鮮明圖景。Anthropic 報告指出，截至2026年5月，Claude已經為Anthropic 的程式碼庫貢獻了超過80%的合併程式碼；典型工程師每天合併的程式碼量，大約是2024年的八倍 。作者們警告，這條軌跡正朝著遞歸自我改良邁進——一個AI系統自主設計、建造並訓練其後繼者，而人類無需主導每個步驟的過程 。

Anthropic 表示，目前尚未達到那個臨界點，結局也非無可避免，但隨後補上了一個審慎但沉重的備註：「它可能比大多數機構的準備速度來得更快」。

核心關切

• 人類監督的喪失。 Anthropic 的核心憂慮在於，AI的進展可能超越現有安全與治理框架，使人類監督成為技術進步的主要制約因素 。該公司警告，若不加以控制，人類有全面失去控制的風險 。
• 為業界裝上「煞車踏板」。 Anthropic 將其呼籲暫停定位為替業界打造一個「煞車踏板」——一個可以減速或暫時停止前緣AI開發的選項，以便讓社會結構與AI對齊研究有時間跟上 。克拉克在接受BBC《新聞之夜》採訪時表示：「你希望有這樣的選項：能夠把腳從油門上移開，然後踩下煞車」。
• 附帶條件，非單邊行動。 Anthropic 表示，只有在其他主要開發者共同參與，且合規情況能夠獨立驗證的情況下，它才會支持暫停 。該公司指出，如果減速只是讓不那麼謹慎的實體得以迎頭趕上，最終反而可能損害所有人的安全 。
• 與政策制定者接觸。 與此同時，Anthropic 宣布計劃召集政策制定者，共同應對先進AI的危害 。

梵蒂岡的《Magnifica Humanitas》：AI的道德框架

《Magnifica Humanitas》於2026年5月25日發布，全文約四萬三千字，核心主題是「在人工智慧時代保護人性尊嚴」。這份文件明確更新了教宗良十三世於1891年頒布的《Rerum Novarum》——那份通諭處理了工業時代的勞動問題——並將其邏輯應用於數位平台、演算法、自動化與數據集中化 。

與Anthropic 警訊的主要契合點

• 呼籲強力監管。 教宗敦促對AI進行嚴格監督，並警告大型科技公司及其領導人可能累積權力，並為了利潤加以濫用 。教宗方濟各十四世主張，AI的提供者必須考慮其行為的倫理後果，並明確表示：「為了讓AI尊重人性尊嚴並真正服務於共同福祉，它需要強而有力的監管」。
• 警告不受控的自主性。 這道通諭告誡AI公司不要建造「一座新的巴別塔」——這與Anthropic 對系統逃脫人類控制的擔憂形成道德上的平行對應 。該文件將排除上帝的AI未來比作聖經故事，警告人類狂妄自大的危險 。
• 以人性尊嚴為標準。 《Magnifica Humanitas》主張，AI必須服務於共同福祉與人類繁榮，不應僅由競爭性的加速驅動 。通諭的核心文句如此寫道：「人工智慧此刻必須被解除武裝，從那些將它轉變為控制、排除與毀滅工具的思想框架中解放出來」。
• 呼籲放慢腳步。 教宗方濟各十四世寫道，呼籲審慎、嚴謹評估，甚至有時在採用AI時放慢步調，並不代表反對進步；相反地，這是「對人類家庭負責任關懷的實踐」。

Anthropic 與梵蒂岡的直接合作

這兩個機構之間的共鳴不僅止於平行發出的警告。在一個罕見的制度性合作案例中，Anthropic 共同創辦人克里斯·奧拉（Chris Olah）於2026年5月25日，在梵蒂岡《Magnifica Humanitas》的發表會上發表演說，凸顯了AI實驗室與聖座之間的獨特關係 。他的出席標誌著一個罕見的聯盟，雙方共同呼籲對人工智慧進行更嚴格的道德檢視 。

雙方此前的連結早已存在。Anthropic 在制定「Claude憲章」（Claude Constitution）——一份長達兩萬三千字、指導其AI模型行為的倫理框架——的過程中，曾諮詢過天主教思想家 。曾是矽谷高階主管的神父布倫丹·麥奎爾（Brendan McGuire）協助制定了這份憲章，他指出《Magnifica Humanitas》為教會與科技產業之間更深層的對話打開了大門 。

通諭發布不到兩週，天主教AI專家便公開讚揚Anthropic 的暫停呼籲，指出其「呼應了教宗方濟各十四世近期的關切」，並讚揚該公司在快速發展中堅守價值觀 。此前，天主教道德神學家也曾提交一份法庭之友意見書，在Anthropic 與五角大廈的一場爭議中聲援Anthropic——該公司拒絕讓其AI系統用於大規模監控或自主武器 。

共同的論點與互補的優勢

Anthropic 與梵蒂岡在核心論點上匯合：前緣AI的發展速度已超越治理與倫理所能適配的步調，因此有必要進行一次審慎的暫停或減速，以維護人類監督、尊嚴與共同福祉。教會方面的貢獻，為Anthropic 基於技術與安全的論證，補充了堅實的道德與神學框架——根源於人性尊嚴、共同福祉以及對弱勢者的保護 。

誠如一位觀察者所言，這兩個機構都認為「社會可能難以跟上快速技術變革的步伐」，因此減速「很可能是一件好事」——前提是，這項行動必須是經過協調、可驗證的，而非僅僅是讓更不謹慎的競爭者趁機佔便宜的工具 。