答案已發布18 個來源
Altman示警：別把AI當成宗教權威，或交出人的判斷
Sam Altman表示，對AI模型賦予「宗教力量」或交出人的判斷，讓他「非常不安」，並稱這是「真正的安全問題」。他沒有在貼文中點名Anthropic，但發言時機使外界將其與該公司的相關討論連結。 Anthropic共同創辦人Christopher Olah表示，自己也不確定AI模型是否有意識；探討這種可能性，不等於證明Claude具有主觀經驗或宗教地位。
發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成
研究答案
重點整理
- Sam Altman表示，對AI模型賦予「宗教力量」或交出人的判斷，讓他「非常不安」，並稱這是「真正的安全問題」。他沒有在貼文中點名Anthropic，但發言時機使外界將其與該公司的相關討論連結。
- Anthropic共同創辦人Christopher Olah表示，自己也不確定AI模型是否有意識；探討這種可能性，不等於證明Claude具有主觀經驗或宗教地位。
- 教宗良十四世的AI通諭將人的尊嚴置於討論核心；與此同時，OpenAI近期傳出安全主管離職及三名研究人員遭解僱等消息，也讓兩家公司的治理與安全作法受到關注。
AI 提示詞
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman say about treating AI models as religious authorities or surrendering human judgment to them, why was his warning interp. Article summary: Sam Altman said he was “very uncomfortable” with people ascribing “religious force” to AI models or surrendering human judgment to them, calling it “a real safety issue.” His post did not name Anthropic, but its timing m. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman表示，對AI模型賦予「宗教力量」，或把人的判斷交給模型，讓他「非常不安」，並稱這是「真正的安全問題」。他沒有在貼文中點名Anthropic；但這番話出現在該公司與宗教學者會面的報導傳出數日後，因此被不少報導解讀為影射Anthropic。 7
1
這場爭論的關鍵，在於分清楚幾件事：討論AI應如何回應、或是否可能具有意識，並不等於要求人們把它當成精神或宗教權威。相關報導指出，Anthropic曾探索這些問題；共同創辦人Christopher Olah則說，他確實不確定AI模型是否有意識。 1
Altman警告的是什麼？
Altman的貼文把兩種顧慮放在一起：把AI視為具有宗教力量的存在，以及把人的判斷交給模型。他稱這種情況是安全問題。由於貼文沒有明確提到任何公司或計畫，將其連結到Anthropic，是根據當時新聞脈絡所作的解讀，並非貼文中的直接指控。 7
這項提醒也不只關乎宗教。當人們把模型自信、近似人類的回答當成權威，就可能賦予它超出其已展現理解能力的決策影響力。現有報導記錄了Altman的警告，但沒有證明這種情況有多普遍，也沒有衡量其影響。 6
7
為什麼Anthropic的會談引起關注？
Anthropic曾向宗教學者請教，探討如何塑造Claude的道德行為，以及AI模型是否可能有意識。這些議題與Altman的警告有所交集，因此他的發言被解讀為回應該公司的工作。 1
7
不過，兩者仍須區分。Olah說：「我們不知道AI模型是否有意識」，並補充自己確實不確定。討論AI可能具有意識，不代表已證明模型有主觀經驗；向宗教思想家請益道德行為，也不等於賦予模型宗教地位。 1
意識與道德行為，是兩個不同問題
設計模型依照某些指引回應，不代表這些指引證明模型有內在心智或主觀經驗。據報導，Anthropic的討論同時觸及Claude的行為和AI可能具有意識的問題；兩者不應被混為一談。 1
相關報導也提到，有人反對在訓練模型時把它們當成有意識的存在：一名Microsoft AI主管警告，這樣做可能有危險。這是對相關做法的疑慮，並未解決機器是否有意識這個更大的問題；根據報導，Olah的立場仍是尚無定論。 9
1
討論核心仍是人的尊嚴與責任
教宗良十四世的AI通諭以人的尊嚴為討論核心。相關報導指出，通諭呼籲加強對AI公司的監督、保障可能受到產業變化衝擊的勞工，並採取措施防範AI生成的假訊息。這些議題也凸顯，開發和使用AI時，人的利益與問責機制應持續居於核心。 15
2
OpenAI也面臨安全與治理檢視
這場爭論發生之際，OpenAI也有其他消息受到關注。《Business Insider》報導，安全主管David Robinson離職並批評公司的安全紀錄；BBC則報導，OpenAI以涉嫌不當處理資訊為由解僱三名研究人員。這些報導無法回答AI是否有意識，卻是檢視兩家公司主張與治理方式時的重要背景。 12
26
較謹慎的結論是：Altman警告，不應把模型當成宗教權威，也不應把人的判斷交給模型。Anthropic與宗教學者的會談引出了Claude道德行為及可能意識等相關問題，但現有報導並未證明這些討論等同於賦予Claude宗教權威，也沒有替AI是否有意識這道問題定案。 7
1
Studio Global AI
繼續深入研究
這個頁面包含附來源佐證的答案，你可以在 Studio Global 內繼續追問。
大家也會問
「Altman示警：別把AI當成宗教權威，或交出人的判斷」的簡短答案是什麼？
Sam Altman表示，對AI模型賦予「宗教力量」或交出人的判斷，讓他「非常不安」，並稱這是「真正的安全問題」。他沒有在貼文中點名Anthropic，但發言時機使外界將其與該公司的相關討論連結。
最值得優先驗證的重點是什麼？
Sam Altman表示，對AI模型賦予「宗教力量」或交出人的判斷，讓他「非常不安」，並稱這是「真正的安全問題」。他沒有在貼文中點名Anthropic，但發言時機使外界將其與該公司的相關討論連結。 Anthropic共同創辦人Christopher Olah表示，自己也不確定AI模型是否有意識；探討這種可能性，不等於證明Claude具有主觀經驗或宗教地位。
接下來在實務上該怎麼做？
教宗良十四世的AI通諭將人的尊嚴置於討論核心；與此同時，OpenAI近期傳出安全主管離職及三名研究人員遭解僱等消息，也讓兩家公司的治理與安全作法受到關注。