《宏偉人性》(Magnifica Humanitas,副標題為「在人工智慧時代捍衛人類位格」)絕非一份對科技發展的謹慎反思,它更像是一份充滿戰鬥宣言的全面治理綱領。這份教宗於5月15日簽署、並親自主持發表的文件,勾勒出一條與當前產業發展軌跡背道而馳的AI願景 。
1. 「解除武裝」與「友善人類」的AI
教宗良十四世直接呼籲,要將人工智慧「解除武裝」(disarmed)並使其「對人類友善」(human-friendly)。他發出嚴厲警告,反對「在追求地緣政治或商業主導地位的慾望驅使下,競相開發更強大演算法與更龐大語言模型」的風潮,因為這種軍備競賽式的發展正在剝奪人的尊嚴 。這段論述,直接將不受控的AI研發,定調為一種威脅人性尊嚴本身的軍備競賽。
2. 為公共利益實行嚴格監管
教宗強調,AI開發者必須為「公共利益」而非僅僅為了盈利而工作,並呼籲建立強而有力的法律與監管框架來管理這項技術 。通諭中的立場非常明確:不能單憑市場機制來引導AI走向,因為市場無法保證它能廣泛地服務全人類。
3. 禁止致命自主武器系統
在最具體的要求中,《宏偉人性》譴責了AI在戰爭中的應用,並明確呼籲禁止致命自主武器系統(Lethal Autonomous Weapons Systems)。教宗指出,將不可逆轉的致命決定權交託給AI系統,在道德上是完全不被允許的 。
4. 保障勞工權益,杜絕「新形態奴役」
延續教會長久以來對勞動議題的社會訓導傳統,文件警告AI絕不能被用來剝削勞工,或是在缺乏合理過渡方案與保障措施的情況下,直接取代人類勞動。教宗更特別點出隱藏在AI背後、從內容審查員到礦工等苦難群體所面臨的「新形態奴役」。
5. 拒斥「權力文化」與科技傲慢
教宗良十四世痛斥了那種視AI本身為終極目標的「科技解決主義」(techno-solutionist)心態。他將那種試圖打造一個排除上帝在外的AI未來之妄想,比作聖經中的「巴別塔」,這是一種傲慢與狂妄的作為 。通諭的第三章「科技與宰制」(Technology and Dominance)詳細闡述了此一論點,並要求在整個AI發展過程中建立清晰的問責機制
。
雖然歐拉在座談會上的完整逐字稿並未廣泛公開,但從事件相關報導與會前預告中,可以看出他發言的核心主軸 。作為與頂尖樞機主教及神學家同台的平信徒講者,歐拉利用這個歷史性的平台,推廣了一套與Anthropic「安全至上」精神高度契合的AI發展願景。
根據報導,歐拉將AI問題定調為一個「共享的道德關懷」,並強調AI發展不僅是一項技術挑戰,更是一道關乎人性尊嚴的命題,需要廣泛的社會參與——他更明確指出,這必須包括來自各個宗教傳統的意見 。他極力強調「安全優先」的開發模式,主張AI系統必須內建強韌的防護措施,整個產業必須將人類福祉,置於毫無節制的商業競賽之上
。在一個引人注目的轉折中,歐拉跳脫了科技烏托邦式的那套樂觀修辭,謙卑地承認AI研究人員並非全知全能,必須認真地與科技圈外的倫理道德框架進行深度對話,並特別點出天主教社會訓導(Catholic social teaching)是一項極為寶貴的思想資源
。
歐拉的現身寫下了歷史:這是首次有大型AI企業的高階主管,與教宗同台發表教宗通諭。外界觀察家也注意到其中濃厚的象徵意義,認為這顯示Anthropic已將教會視為倡導AI安全治理規範時,一個極具分量的制度性盟友 。
5月25日的事件並非一場心血來潮的合影機會,而是Anthropic長久以來刻意推動、旨在與宗教及智慧傳統搭建橋樑的策略之公開顛峰。
在5月19日的一份新聞稿中,Anthropic透露,該公司在「過去數個月」中,一直持續組織旗下研究人員與梵蒂岡官員——包括神學家與倫理學家——進行對話,目的在於針對AI的風險及其涉及的道德面向,建立雙方的共同理解 。該公司表示,首輪的對話已觸及「超過15個宗教與跨文化團體」,這是Anthropic試圖將AI發展的根基,扎入科技圈之外更廣袤道德傳統土地上的重大努力
。
Anthropic更廣泛的行動模式,透露出更多線索。早在這場梵蒂岡盛會的數個月之前,該公司便曾攜手一位天主教神父與其他信仰領袖,直接參與形塑了「Claude憲法」(Claude Constitution),這是一套用來約束其AI行為的核心指導原則 。歐拉本人正是這項接觸的發起者,他積極尋求外援,希望將倫理價值觀編碼(encode)到公司的系統之中。這完全反映了Anthropic自創立以來的核心使命:打造「樂於助人、誠實、無害」(Helpful, Honest, Harmless)的AI,並致力於部署前的安全研究。這些價值主張,與梵蒂岡念茲在茲的「人性尊嚴」與「審慎態度」,產生了自然的共鳴
。
歐拉在羅馬的現身,等於向世界宣告:這家公司已將天主教會視為全球AI監管對話中的一位嚴肅制度夥伴。教會所擁有的道德權威,以及觸及全球每個角落的廣大網絡,是任何科技財團或單一國家監管機構都無法比擬的 。而梵蒂岡決定邀請歐拉共同登台,無疑是為這項策略,獻上了迄今最強而有力的背書。
在AI發展不斷加速的當今世界,《宏偉人性》通諭及其歷史性的發表會,代表著一項極其清晰的要求:科技必須服務人類,而非宰制人類。而對於Anthropic來說,選擇與教宗站在同一陣線,正是它想在這一場全球激辯中,清楚選邊站的最強烈信號。
Comments
0 comments