答案已發布18 來源
Sam Altman：唔應該將AI當成宗教權威
Altman表示，對AI模型賦予「宗教力量」或放棄人的判斷，令他「非常不安」，並認為這是安全問題；他的帖文沒有直接點名Anthropic。 Anthropic曾找宗教學者討論如何塑造Claude的道德行為，以及AI模型會否有意識。共同創辦人Christopher Olah則表示，自己並不確定AI是否有意識。
發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成
研究答案
重點
- Altman表示，對AI模型賦予「宗教力量」或放棄人的判斷，令他「非常不安」，並認為這是安全問題；他的帖文沒有直接點名Anthropic。
- Anthropic曾找宗教學者討論如何塑造Claude的道德行為，以及AI模型會否有意識。共同創辦人Christopher Olah則表示，自己並不確定AI是否有意識。
- 討論AI的道德行為，不等於證明AI有主觀感受，更不代表應把AI視為宗教權威；與此同時，OpenAI的安全管理亦正受到外界關注。
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman say about treating AI models as religious authorities or surrendering human judgment to them, why was his warning interp. Article summary: Sam Altman said he was “very uncomfortable” with people ascribing “religious force” to AI models or surrendering human judgment to them, calling it “a real safety issue.” His post did not name Anthropic, but its timing m. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman表示，對有人把「宗教力量」賦予AI模型，或者將人的判斷交給AI，他感到「非常不安」，並稱這是「真正的安全問題」。他沒有在帖文中點名Anthropic；不過，帖文發布時正值該公司與宗教學者會面的報道受到關注，因此不少報道將他的說法解讀為影射Anthropic。 7
1
這場爭論有兩個容易混為一談的問題：一是AI應該如何作出回應，二是AI會否有意識。討論如何塑造模型的道德行為，或探討AI是否可能有意識，並不等同叫人把AI當成精神或宗教權威。現有報道提到Anthropic曾探索這些議題；共同創辦人Christopher Olah則說，自己對AI模型是否有意識「確實不確定」。 1
Altman警告的是甚麼？
Altman將兩種做法放在一起談：把AI看成具有宗教力量的存在，以及把人的判斷交給模型。他認為這種情況涉及安全風險。由於帖文沒有指明公司或項目，將這番話連繫到Anthropic，是根據當時的新聞背景作出的解讀，並非帖文直接提出的指控。 7
重點亦不只在宗教。當模型以流暢、肯定的語氣作答，使用者可能因此給它過多權威，讓它影響重要決定，超出其已知能力所能支持的程度。報道記錄了Altman的警告，但沒有證明這種情況有多普遍，亦沒有量化相關影響。 6
7
Anthropic與宗教學者談過甚麼？
Anthropic曾向宗教學者請教，探討如何塑造Claude的道德行為，以及AI模型會否有意識。這些議題與Altman的警告有交集，因此他的帖文被解讀為回應該公司的工作。 1
7
不過，討論模型可能有沒有意識，不等於證明它有主觀感受；向宗教思想家請教道德行為，也不代表公司因此賦予模型宗教地位。Olah曾明言：「我們不知道AI模型是否有意識」，並補充自己確實沒有把握。 1
道德規範與「有沒有意識」是兩回事
設計模型遵循某些回應原則，並不能證明模型有內在感受。相關報道提及Anthropic同時討論Claude的行為，以及AI可能有沒有意識；這兩個問題不應混為一談。 1
報道亦提到，有Microsoft AI高層反對在訓練模型時把它們當成有意識，認為這樣做可能有危險。這是對訓練方式的憂慮，並沒有解決機器是否有意識這個更大的問題。按報道所述，Olah的立場是仍然不確定。 9
1
人的尊嚴與問責仍是焦點
教宗良十四世（Pope Leo XIV）的人工智能通諭，將人的尊嚴放在討論中心。相關報道指，通諭呼籲加強監管AI公司、保障可能受技術變化影響的工人，並採取措施應對AI生成的假資訊。這些議題都提醒人們，在開發和使用AI時，人的利益與問責機制仍然重要。 15
2
OpenAI自身亦面對安全質疑
這場爭論發生之際，OpenAI亦有不同的內部風波受到報道。Business Insider報道，安全主管David Robinson離職，並批評公司的安全紀錄；BBC則報道，OpenAI因三名研究員涉嫌不當處理資訊而解僱他們。這些報道不能回答AI是否有意識，但在檢視兩間公司的安全主張與治理方式時，是相關背景。 12
26
目前較穩妥的結論，不是替Anthropic或OpenAI下定論，而是分清已知與未定之事：Altman警告，不要把AI模型當成宗教權威，亦不要交出人的判斷。Anthropic據報曾與宗教學者討論Claude的道德行為和可能的意識，但現有報道並未證明這些討論等同賦予Claude宗教權威；AI是否有意識，也仍未有定論。 7
1
Studio Global AI
繼續你的研究
此頁麵包含一個有來源支援的答案，您可以在 Studio Global 內繼續。
人們還問
「Sam Altman：唔應該將AI當成宗教權威」的簡短答案是什麼？
Altman表示，對AI模型賦予「宗教力量」或放棄人的判斷，令他「非常不安」，並認為這是安全問題；他的帖文沒有直接點名Anthropic。
首先要驗證的關鍵點是什麼？
Altman表示，對AI模型賦予「宗教力量」或放棄人的判斷，令他「非常不安」，並認為這是安全問題；他的帖文沒有直接點名Anthropic。 Anthropic曾找宗教學者討論如何塑造Claude的道德行為，以及AI模型會否有意識。共同創辦人Christopher Olah則表示，自己並不確定AI是否有意識。
接下來在實務上我該做什麼？
討論AI的道德行為，不等於證明AI有主觀感受，更不代表應把AI視為宗教權威；與此同時，OpenAI的安全管理亦正受到外界關注。