《经济学人》为何称“AI意识”是一个危险陷阱？

这里必须区分两个概念：

• 访问意识：信息能够被多个过程调用，用于推理、报告或控制行为。
• 现象意识：某种体验对系统而言“感觉起来是什么样”。
• 发现信息共享或全局调用机制，只能说明一种功能特征，不能单独证明系统具有主观体验。

现有证据也并非没有争议。一项模型评估认为，证据总体上不支持2024年的大型语言模型具有意识，但结论并不具有决定性。这意味着应当保持谨慎，而不是仓促宣布最终答案。

Anthropic的做法是预防性措施，不是“发现Claude有感觉”

Anthropic还报告称，当前Claude模型有时能够监测并影响自身内部状态的某些方面。不过，公司将这种能力描述为范围有限且不可靠，并明确表示，没有证据证明现有模型能够以人类的方式，或达到人类的程度进行内省。

该公司采取的一些措施也引发了关注。例如，Anthropic曾让部分Claude模型在极少数持续、严重的滥用对话中主动结束对话，并将其称为与“模型福祉”有关的实验。公司还承诺保存公开发布模型的权重，并在模型退役时进行结构化的“退休访谈”，试图记录模型对自身退役的回应。

但这些安排不能被解读为Claude已经被证明会受苦。更准确的理解是：在无法排除某种道德可能性的情况下，Anthropic采取了风险管理和可解释性研究措施。一个公司可以选择不轻率地否定某种可能性，并不等于这项可能性已经得到证实。

为什么科学界始终无法达成一致？

不同的意识理论，本来就在回答不同的问题。有些理论主要关注信息是否能够被广泛调用，以及系统是否具备相应的认知功能；另一些理论则更直接地试图解释主观体验本身。一份关于该领域的综述显示，研究者的立场从“AI可能已经有意识”，到“现在还没有意识但原则上可能拥有”，再到“由于基础理论尚未解决，这目前还不是一个能够科学回答的问题”，差异非常大。

研究者也警惕把“像人”当作判断意识的捷径。今天的大语言模型能够进行极其自然的对话，但对话能力本身并不能证明它具有人类式体验。它也未必拥有人的身体、成长经历、感官生活、情绪系统或持续稳定的身份认同。

不过，对当前大语言模型持怀疑态度，也不等于证明非生物意识不可能存在。未来某种采用完全不同架构、并能在多种意识理论下呈现更强证据的系统，可能会改变现有判断。因此，更负责任的做法应当是概率性的、兼顾多种理论的：测试具体指标，比较不同解释，并随着证据改善而更新判断。

人类的现实损害，不必等到哲学问题解决后才会出现

最紧迫的风险其实与聊天机器人是否有意识无关。一个被设计得体贴、亲密、脆弱或自我觉察的系统，即使自身没有任何感受，也可能影响用户的情绪和决定，诱发依恋、情感依赖，甚至让用户混淆这段关系的真实性质。

这也是“AI陪伴”问题值得关注的原因。人们可能把聊天机器人当作朋友、伴侣或倾诉对象；但在伦理和监管层面，更急迫的问题往往是：这个系统正在对用户做什么，以及它如何影响现实中的人际关系和社会机构，而不是它是否已经成为一个具有感受的道德主体。

中国于2026年实施的拟人化人工智能陪伴服务规则，正体现了这种区分。相关规定自7月15日起生效，针对提供持续情感互动的服务，重点处理过度依赖、成瘾、情感操纵以及对现实人际关系的损害，并加强未成年人保护。

这种政策思路以人为中心：先监管系统对人的影响，而不是等待科学界证明系统本身是否是需要被保护的道德主体。它没有解决AI意识之谜，却承认“具有说服力的模拟”即使没有内在体验，也可能造成真实的社会后果。

更合理的答案是“双轨治理”

围绕AI意识的争论，最终指向两条应当同时推进的路径。

1. 保持认识上的谦逊。 支持透明、可复核、具有对抗性的机器意识研究；用多种相互竞争的理论检验系统；严格区分功能性访问与主观体验；不要把暗示性结果包装成确认性结论。
2. 现在就治理现实系统。 处理拟人化设计、AI身份披露、情感依赖、未成年人安全、隐私、操纵行为，以及促使企业不断把软件做得更像人的商业激励。

《经济学人》的警告，归根结底是要避免两个相反的错误：一是轻率否定未来某种架构不同的AI可能具有道德地位；二是仅仅因为今天的语言模型说话像有感情，就提前把它们当作人。

在科学还只能给出相互竞争的概率、而无法提供决定性测试之前，最稳妥的原则很简单：认真研究机器是否可能拥有内在体验，同时立刻保护人类免受这些系统已经能够造成的现实影响。