前沿 AI 安全研究者为何承受如此大的心理压力？

英国 AI 安全研究所（AISI，负责独立评测前沿 AI 模型的机构）部分员工请医疗假或寻求心理咨询，核心并非单一的工作负荷问题，而是道德压力与制度压力叠加：他们负责测试和识别可能造成严重伤害的系统，却担心模型能力及其部署竞赛，正在快过安全措施、独立评估和监管跟进的速度。报道提到，AISI 数名员工在紧张的前沿模型测试安排下出现士气低落和倦怠；大型 AI 实验室的研究人员也被报道存在类似焦虑。不过，现有公开材料并不足以说明这种状况在任何一家机构内有多普遍。15

担忧不只是遥远的科幻情节

研究人员所说的风险包括较近的双重用途问题：模型可能降低实施网络攻击、制造恶意代码或进行生物滥用的技术门槛。更长期的担忧则是，随着系统在规划、编程和执行任务上更具自主性，人类可能难以维持有意义的监督与控制。前 OpenAI、Anthropic 研究人员 Jacob Coxon 就将 AI 驱动的生物威胁和网络武器视为可能通向灾难的路径。15

这并不等于“人类灭绝迫在眉睫”已经得到证实。更准确地说，一些最接近前沿开发的人认为，能力加速、双重用途风险、市场竞争和外部控制不足的组合，已经构成难以承受的伦理与心理负担。

安全工作者为何会感到“自己也卷入其中”

安全研究人员并非在远处评论风险。他们往往直接参与模型评测、训练、风险缓解或部署流程。因此，当测试时间很紧、产品竞争持续加速，而发现风险的人又未必拥有叫停发布的权力时，容易出现强烈的无力感。

这种状态可被理解为一种道德伤害：个人认为自己正参与或协助推进可能伤害社会的事情，却无法确信现有防护足以阻止风险发生。它与普通的加班疲劳不同，焦点在于责任、控制权与后果之间的失衡。

Coxon辞去 Anthropic 职务后公开批评，称相关公司正竞逐走向可自我改进的超级智能，却没有以负责任的方式行动。他曾在 OpenAI 和 Anthropic 从事预训练研究；其离职与公开警告，使实验室内部原本较少公开表达的焦虑变得更可见。Coxon 对 BBC 表示，领先实验室中有人确实对进展速度及其对人类意味着什么感到害怕。914

“放慢速度”为什么仍难消除不信任

Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 等业界领袖，都曾以不同程度支持放缓前沿 AI 进展的方向。2 但这类表态本身并不能自动建立信任。

批评者提出，一个由头部实验室设计或执行的“AI 冻结”，也可能巩固这些公司的市场与技术优势，挤压较小竞争者。因此，问题不仅是要不要放慢，也是谁制定规则、谁来验证、谁承担约束。11

斯坦福大学人本人工智能研究院（HAI）的讨论指出，全面放缓 AI 能力发展的难度很高；更可操作的方向包括由政府或合格第三方开展独立评估，并加强安全、安全工程和监测投入。3 对从业者而言，真正有说服力的信号会是可核查的行动，例如延后发布、独立审计、明确且可执行的风险阈值、举报人保护，以及接受外部约束的意愿，而不只是公开承诺。

AI 参与 AI 研发，为何让人更难判断时间表

另一个加剧焦虑的因素，是 AI 已开始自动化部分研究与工程工作。这不代表完整的“递归自我改进”已经发生；相关研究明确指出，当前 AI 系统尚未实现这种能力。6

但即使只是部分自动化，也可能缩短实验、编程、训练和迭代周期。乔治城大学安全与新兴技术中心（CSET）指出，高度自动化的 AI 研发可能显著加速能力进步，并削弱人类理解和控制系统的能力。4 一项近期研究则发现，智能体可以在无人协助下完成大量 AI 研究工程工作，但在回答开放式研究问题、判断成果是否达到可发表标准等关键环节仍表现欠佳。5

这正是安全人员感到压力的原因之一：他们担心能力前进的速度，可能快到评测、理解与治理都跟不上。

结论：这是一场治理与劳动困境，而非已被证明的末日预言

请病假、寻求心理咨询或离职，并不能证明最极端的 AI 灾难必然发生。它更能说明的是：部分身处前沿开发与安全评测一线的人，已经认为自己面对的风险、激励机制和控制手段之间存在严重失配。

要缓解这种压力，重点不只是要求个体“更有韧性”，而是建立能让风险发现真正影响决策的制度：独立评测、可执行的发布门槛、可信的外部监管、跨机构协调，以及对内部异议和举报的保护。