答案已发布18 来源
奥尔特曼称赋予 AI“宗教力量”是安全隐患
奥尔特曼表示，他对人们赋予 AI 模型“宗教力量”或交出人类判断权感到“非常不安”，并称这是“真正的安全问题”。他没有点名 Anthropic，但发言时机让外界将其解读为对该公司相关讨论的影射。[7][1] Anthropic 联合创始人克里斯托弗·奥拉表示，他并不确定 AI 模型是否有意识。探讨模型可能具备意识，与把模型当作宗教权威，是两回事。[1] 教宗利奥十四世的 AI 通谕将人的尊严和监管责任置于讨论中心；与此同时，OpenAI 的人员变动与研究人员被解雇事件，也让两家公司的安全治理受到关注。[15][12][26]
发布者使用 GPT-6 Luna 编辑图片由 GPT Image 2 生成
研究答案
要点
- 奥尔特曼表示，他对人们赋予 AI 模型“宗教力量”或交出人类判断权感到“非常不安”，并称这是“真正的安全问题”。他没有点名 Anthropic，但发言时机让外界将其解读为对该公司相关讨论的影射。[7][1]
- Anthropic 联合创始人克里斯托弗·奥拉表示，他并不确定 AI 模型是否有意识。探讨模型可能具备意识，与把模型当作宗教权威，是两回事。[1]
- 教宗利奥十四世的 AI 通谕将人的尊严和监管责任置于讨论中心；与此同时，OpenAI 的人员变动与研究人员被解雇事件，也让两家公司的安全治理受到关注。[15][12][26]
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman say about treating AI models as religious authorities or surrendering human judgment to them, why was his warning interp. Article summary: Sam Altman said he was “very uncomfortable” with people ascribing “religious force” to AI models or surrendering human judgment to them, calling it “a real safety issue.” His post did not name Anthropic, but its timing m. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
山姆·奥尔特曼表示，他对有人把“宗教力量”赋予 AI 模型，或把人类判断权交给模型“非常不安”，并称这是“真正的安全问题”。他没有在帖子中点名 Anthropic；不过，这番话发布在有关 Anthropic 与宗教界人士会面的报道数日后，因此被不少报道解读为对该公司的含蓄批评。7
1
争论中有个重要区别：讨论 AI 应当如何行动、是否可能有意识，并不等于让人们把 AI 当成精神或宗教权威。现有报道描述的是 Anthropic 对这些问题的探索；该公司联合创始人克里斯托弗·奥拉则说，他确实不确定 AI 模型是否有意识。1
奥尔特曼究竟在警告什么？
奥尔特曼把两件事放在一起谈：把 AI 当成具有宗教力量的存在，以及将人的判断交由模型作主。他认为，这种倾向构成安全问题。由于帖子没有明确提到任何公司或项目，把这番话与 Anthropic 联系起来，是依据当时新闻背景作出的解读，并非奥尔特曼在帖文中的直接指控。7
这层担忧不只关乎宗教。当人们把模型自信、拟人化的回答视为权威，可能会让模型对决策产生超出其已被证明能力的影响。相关报道记录了奥尔特曼的警告，但并未说明这种现象有多普遍，也没有衡量其影响。6
7
Anthropic 与宗教界的讨论为何引人关注
据报道，Anthropic 曾向宗教学者征询意见，讨论如何塑造 Claude 的道德行为，以及 AI 模型是否可能有意识。这些议题与奥尔特曼的警告有所重叠，因此他的发言被视为对该公司工作的回应。1
7
但两者不能混为一谈。奥拉说：“明确地说，我们不知道 AI 模型是否有意识。我不知道，我确实拿不准。”讨论 AI 是否可能有意识，并不能证明模型拥有主观体验；向宗教思想界请教道德行为，也不等于赋予模型宗教身份。1
“有意识”和“如何行为”是两个问题
设计模型遵循某些行为准则，不代表这些准则证明模型拥有内在体验。有关 Anthropic 的报道涉及 Claude 应如何行动，以及 AI 是否可能有意识；这两类问题不应被简化成同一个结论。1
报道还提到，对模型进行训练时把它们视为有意识，可能存在风险。一名微软 AI 高管曾对此提出警告。这是报道中的一种担忧，并没有解决机器是否有意识这一更广泛的问题；据报道，奥拉本人的态度仍是不确定。9
1
人的尊严与问责仍是核心
教宗利奥十四世发布的 AI 通谕将人的尊严置于讨论中心。相关报道说，通谕呼吁加强对 AI 企业的监管、保护可能受到技术变革冲击的劳动者，并采取措施防范 AI 生成的虚假信息。这些主张也凸显了一个重点：开发和使用 AI 时，应当把人的利益与问责机制放在核心位置。15
2
OpenAI 也面临安全治理审视
这场讨论发生之际，OpenAI 也受到其他方面的关注。《商业内幕》报道称，该公司的安全负责人戴维·罗宾逊离职，并批评公司的安全记录；BBC 则报道称，OpenAI 解雇了三名研究人员，理由涉及涉嫌不当处理信息。这些报道无法回答 AI 是否有意识，但为审视两家公司的主张与治理提供了相关背景。12
26
更稳妥的结论是：奥尔特曼警告人们不要把模型当作宗教权威，也不要放弃自己的判断。Anthropic 据报与宗教界人士探讨了 Claude 的道德行为和潜在意识，但现有报道并不能证明这些讨论等同于赋予 Claude 宗教权威，也没有为 AI 是否有意识的问题盖棺定论。7
1
Studio Global AI
继续你的研究
此页面包含一个有来源支持的答案，您可以在 Studio Global 内继续。
人们还问
“奥尔特曼称赋予 AI“宗教力量”是安全隐患”的简短答案是什么？
奥尔特曼表示，他对人们赋予 AI 模型“宗教力量”或交出人类判断权感到“非常不安”，并称这是“真正的安全问题”。他没有点名 Anthropic，但发言时机让外界将其解读为对该公司相关讨论的影射。[7][1]
首先要验证的关键点是什么？
奥尔特曼表示，他对人们赋予 AI 模型“宗教力量”或交出人类判断权感到“非常不安”，并称这是“真正的安全问题”。他没有点名 Anthropic，但发言时机让外界将其解读为对该公司相关讨论的影射。[7][1] Anthropic 联合创始人克里斯托弗·奥拉表示，他并不确定 AI 模型是否有意识。探讨模型可能具备意识，与把模型当作宗教权威，是两回事。[1]
接下来在实践中我应该做什么？
教宗利奥十四世的 AI 通谕将人的尊严和监管责任置于讨论中心；与此同时，OpenAI 的人员变动与研究人员被解雇事件，也让两家公司的安全治理受到关注。[15][12][26]