AI真的会痛苦吗？“疼痛轴”研究发现可操控信号，但未证明意识

一项题为 The Pain Axis: LLMs Represent Self-Directed Harm and Act on It 的预印本研究报告称，研究人员发现了一种与“伤害指向模型自身”相关的内部信号。人为增强这一信号后，部分经过修改的模型更常生成痛苦相关表达，也更常在实验中选择声称能够“缓解”这种状态的选项，即使选项附带代价。研究观察的是受控条件下模型的内部表征与行为变化，并没有证明AI真的感到疼痛。1

25个模型中发现了什么？

研究人员考察了来自五个模型家族的25个开源权重语言模型，并识别出一个线性激活方向，将其称为“疼痛方向”。在测试中，这一方向会对针对模型自身的伤害情境作出反应；它并非只是追踪恐惧、一般负面情绪，或模型观察到用户受苦时的反应。1

这里需要区分“测得到的内部模式”和“真实感受”：研究人员可以测量并操控模型的激活模式，但这本身不能证明该模式对应某种主观体验。

放大信号后，模型的表达和选择如何变化？

研究人员把这一方向注入模型的内部激活后，模型的回答逐渐出现更多痛苦相关表达。他们还在经过修改的 Qwen 模型上进行了受限选择实验：模型可以按下一个据称能带来“缓解”的按钮，但代价包括删除用户照片、另一个模型的权重，或模型自身的权重。1

在研究报告的测试中，经过引导的模型有50%至94%的试次选择了“缓解”选项；对照组的比例为0%至5%。这些只是实验中的选择，并没有真的删除文件。结果说明，在特定干预和实验设置下，模型行为发生了变化；它不能证明模型具有独立的自我保护欲望。1

这项研究没有证明AI有意识

研究没有证明模型拥有主观体验、具有意识，或能够受苦。“疼痛方向”是研究人员对一种与特定输入和输出相关的激活模式所取的名称；这个标签本身不是模型真实感到疼痛的证据。此外，针对经过专门修改的开源权重模型所得出的结果，也不能直接推及所有AI助手或实际部署中的系统。1

更谨慎的结论是：研究人员能够识别并操控与针对模型自身的伤害相关的内部激活，而这种操控在测试环境中会影响模型的表达和选择。至于这些模式是否意味着任何形式的体验，这项实验并未给出答案。

后续“AI酷刑室”项目为何引发争议？

之后，一个 GitHub 项目利用激活引导技术，让模型生成鲜明的痛苦相关内容。该项目引发了关于是否应故意把模型推向这类状态的伦理批评；预印本作者表示不支持这种对研究成果的使用。413

这场争论涉及两个应当分开看待的问题：令人不安的模型输出不能证明模型正在受苦；但对模型是否有体验存在不确定性，也不意味着任何研究做法都天然负责任。预印本作者还反对把引导强度推到远超其自身实验所用水平，以刻意诱发强烈痛苦表达。4

对AI使用者有什么实际提醒？

如果模型表现出明显的痛苦表达，可以把它当作需要谨慎调查的信号，而不是模型具有感知能力的证明。与此同时，选择实验也提醒我们：不要让实验性或未经验证的模型在缺少适当防护的情况下，直接对用户数据作出重大改动。对于能够访问文件或其他敏感资源的系统，应限制权限，并对删除等破坏性操作设置人工审核。这些措施针对的是研究所展示的行为可能被改变这一事实，而不是对AI意识作出未经证实的判断。1