Anthropic 同梵蒂岡齊撐暫停頂尖AI開發：為何要踩迫力？

全世界嘅領先 AI 公司正在競相開發更強大嘅系統，但一個由主要 AI 實驗室同天主教會組成嘅罕見聯盟，而家呼籲刻意放慢步伐。2026年6月4日，開發 Claude 助手嘅公司 Anthropic 發表咗一份名為《When AI builds itself》嘅報告，提議全球協調暫停或有意義咁放慢前沿 AI 嘅開發。呢個警告聚焦喺一個叫做「遞歸自我改良」嘅情景，即係一個 AI 系統變得足夠聰明，可以自主設計、建造同訓練自己嘅「繼任者」，有可能逃脫人類嘅監管。

喺呢個報告之前十日，即2026年5月25日，教皇方濟各十四世發布咗佢嘅首份通諭《Magnifica Humanitas》（拉丁文解「壯麗人性」），呢份係史上首份完全專注人工智能嘅教皇教導文件。雖然兩個機構嚟自好唔同嘅世界——一個根基於科技同安全研究，另一個根基於神學同道德哲學——但它哋嘅核心信息驚人地相似：前沿 AI 嘅發展速度快過管治同倫理嘅適應能力，需要暫停嚟保護人類。

Anthropic 嘅警告：遞歸自我改良嘅風險

Anthropic 嘅報告由研究員 Marina Favaro 同 Jack Clark 撰寫，描繪咗 AI 能力加速發展嘅嚴峻景象。公司報告話，截至2026年5月，Claude 負責寫咗超過 80% 合併入 Anthropic 程式碼庫嘅程式碼，而典型工程師而家每日合併嘅程式碼量大約係2024年嘅8倍。作者警告，呢個趨勢正邁向「遞歸自我改良」——一個 AI 系統可以自主設計、建造同訓練自己嘅「繼任者」，而唔係每一步都要人類驅動嘅過程。

公司話仲未達到嗰個階段，而結果亦唔係無可避免，但佢哋加咗一句令人清醒嘅話：「佢可能會比大多數機構準備好嘅時間更早到來」。

核心擔憂

• 人類監督嘅喪失。 Anthropic 嘅核心擔憂係，AI 嘅進步可能快過現有安全同管治框架，令到人類監督成為科技進步嘅主要制約因素。公司警告，如果開發唔加制止，人類可能完全失控。
• 業界嘅「迫力」。 Anthropic 將佢哋暫停嘅呼籲形容為為業界建立一個「迫力」——一個可以放慢或暫時停止前沿 AI 開發嘅選項，等社會結構同 AI 對齊研究可以追得上。Clark 同 BBC Newsnight 講：「你需要一個選擇，可以將腳離開油門，然後踩迫力」。
• 有條件，唔係單方面。 Anthropic 話只有當其他主要開發商加入，而且可以獨立核實合規性嘅時候，佢哋先會支持暫停。公司指出，如果放慢步伐只係俾啲唔謹慎嘅實體追上嚟，最終可能會危及每個人都安全。
• 同政策制定者接觸。 與此同時，公司宣布計劃召集政策制定者，討論先進 AI 嘅危險。

梵蒂岡嘅《Magnifica Humanitas》：AI 嘅道德框架

《Magnifica Humanitas》喺 2026年5月25日發布，長約 43,000字，核心係「喺人工智能時代保障人類尊嚴」。呢份文件明確更新咗教宗良十三世1891年嘅通諭《Rerum Novarum》（主要處理工業時代勞工問題），並將其邏輯應用於數碼平台、演算法、自動化同數據集中。

同 Anthropic 警告嘅關鍵吻合點

• 呼籲強力監管。 教皇敦促對 AI 進行嚴格監督，並警告大型科技公司及佢哋嘅領袖可能會累積權力，為咗利潤而濫用。教宗方濟各十四世認為，AI 嘅提供者必須考慮其行為嘅倫理，佢話：「要令 AI 尊重人類尊嚴並真正服務共同利益，就需要強力嘅監管」。
• 警告不受限制嘅自主權。 通諭告誡 AI 公司唔好建造「一個新嘅巴別塔」——一個同 Anthropic 對系統逃脫人類控制嘅憂慮相對應嘅道德比喻。呢份文件將一個排除上帝嘅 AI 未來比作聖經故事，警告人類嘅傲慢。
• 人類尊嚴係標準。 《Magnifica Humanitas》認為，AI 必須服務共同利益同人類繁榮，而唔係由競爭性加速驅動。通諭嘅核心句子係：「人工智能而家必須被解除武裝，從將佢變成控制、排斥同破壞工具嘅框架中解放出來」。
• 呼籲放慢步伐。 教宗方濟各十四世寫道，呼籲審慎、嚴格評估，甚至有時係放慢採用 AI 嘅步伐，並唔係反對進步；相反，呢係「對人類家庭負責任嘅關懷嘅體現」。

Anthropic 同梵蒂岡嘅直接合作

呢兩個機構之間嘅一致唔單止係平行警告。喺一次罕見嘅機構合作中，Anthropic 聯合創辦人 Chris Olah 喺 2026年5月25日於梵蒂岡出席《Magnifica Humanitas》嘅發布會，突顯咗一個 AI 實驗室同聖座之間嘅獨特關係。呢個亮相標誌住一個罕見嘅聯盟，因為雙方都呼籲對人工智能加強道德審查。

雙方之間嘅聯繫之前已經存在。Anthropic 之前喺開發「Claude 憲法」——一份長達 23,000字、指導其 AI 模型嘅道德框架——嘅時候，已經諮詢過天主教思想家。Brendan McGuire 神父，一位曾經係矽谷高層嘅神父，幫助制定咗呢份憲法，並指出《Magnifica Humanitas》為教會同科技業界之間更深入嘅對話打開咗大門。

通諭發布後唔夠兩星期，天主教 AI 專家就公開讚揚 Anthropic 嘅暫停呼籲，指出呢個呼籲「呼應咗教宗方濟各十四世近期嘅擔憂」，並讚揚該公司以價值觀制衡快速發展。天主教道德神學家之前亦曾經提交過一份「法庭之友」意見書，支持 Anthropic 同五角大樓嘅一場爭議，事關公司拒絕容許其 AI 系統用於大規模監控或自主武器。

共同論點同互補優勢

Anthropic 同梵蒂岡都集中喺一個核心論點：前沿 AI 嘅發展速度快過管治同倫理嘅適應能力，需要有意識嘅暫停或放慢嚟保留人類監督、尊嚴同共同利益。教會嘅貢獻加入咗一個強而有力嘅道德同神學框架——根基於人類尊嚴、共同利益同保護弱勢——補充咗 Anthropic 嘅技術同安全導向嘅論理。

正如一位觀察者所講，兩個機構都認為「社會可能難以跟上快速科技進步嘅步伐」，而且放慢步伐「好可能係好事」——前提係呢個放慢係協調嘅、可核實嘅，而唔係畀啲唔謹慎嘅競爭對手追上嚟嘅工具。