前沿 AI 实验室如何降低科学模型的生物武器滥用风险

科学 AI 有望加快生物学、医学和药物研发的进展；但随着模型能力增强，它也可能降低化学与生物领域被滥用时所需的知识、协调和试错成本。正在形成的应对方案并不是“一刀切”禁止，而是一套由能力评估、访问控制、使用监测，以及现实环节防护构成的分层体系。

风险核心：AI 是否带来可衡量的“能力增益”

真正的问题，不是面向公众的聊天机器人能否给出从头到尾制造生物武器的“操作手册”。更关键的是：更强的模型会不会让危险项目在某些步骤上显著变得更容易，例如减少所需时间、专业知识、排错工作或多阶段协作负担。

这一区分很重要。生物危害并非只靠生成文字就能实现，还涉及材料、设备、专业能力与实际操作。一篇关于现有基础模型的工作论文将焦点放在：模型是否能引导用户完成技术门槛很高的开发流程，而不是把单条提示词当作完整的威胁路径。

前沿实验室正在采用哪些做法？

前沿模型的安全实践正逐渐汇聚为几项互补措施：

• **能力评估：**让相关领域专家参与，并设置对抗性场景，测试模型在生物学或化学上的协助是否以具有实质影响的方式超出常规信息获取能力。
• **精准防护：**对高风险双重用途请求拒答、引导至安全方向或限制处理，同时尽可能保留低风险教育、医疗和科研问题的可用性。
• **分级部署：**最敏感的能力只向经过审查的用户或机构，在明确条件下开放，而非面向所有人广泛提供。
• **持续校准：**当规则误伤正当用途，或模型能力继续提升时，重新检视分类器与访问规则。
• **外部防线：**保护滥用必须转化为实际行动的下游环节，尤其是生物材料的获取。

这一思路比把模型行为视为唯一防线更具可操作性。

Anthropic 的案例：减少误拦截，不等于放开双重用途研究

Anthropic 对 Fable 5 的生物学安全更新，体现了这种权衡。该公司称，更新后其产品中与生物学相关的“转交”——即系统将请求切换至能力较低模型处理——减少约 85%，使 Fable 5 能协助处理更广泛的生物学任务。

与此同时，Anthropic 表示，系统仍会把其判定为双重用途的请求——包括病毒学、毒理学和分子设计——转交给 Opus 5；后者在这一用途上能力较低。因此，Fable 5 目前仍不能用于这些敏感类别中的专业生物学研究和药物开发。

重点不在于这一具体的路由机制，而在于其原则：如果防护措施拦住所有生物学问题，可能妨碍正常学习、临床解读和常规科研；若把所有生物学请求都视为无害，又可能漏掉真正敏感的协助。提高识别精度本身就是安全工作的一部分，而不是安全的反面。

对高能力系统实施受控访问

Anthropic 也对 Mythos 级模型采用了限制访问方式。其 Mythos 页面称，Mythos 5.1 在生物学和网络安全方面有所提升，但访问仍仅限于少量经过审核的机构。1

在发布 Mythos 5 时，Anthropic 表示，该系统与 Fable 5 使用相同的底层模型，但在部分领域取消了相应防护。其初始部署对象仅为通过 Project Glasswing 获得访问权限的一小批网络防御者和基础设施提供方。7

这种部署方式并不能消除风险：受审核访问、日志记录、下游使用控制和事件响应仍不可或缺。但它打破了“全面公开”或“完全不用”的二元选择。风险更高的能力可先在使用目的、使用者与监管边界更清晰的有限场景中部署。

为什么不能只依赖模型护栏？

模型层面的防护可能因替代模型、微调、被盗账号、工具集成，或多人、多系统分工的工作流而被绕开或削弱。因此，访问控制本身并不是完整的生物安全策略。

RAND 在 2026 年发布的纵深防御报告明确指出：没有任何单一防护措施能够阻止 AI 辅助的生物滥用。该报告提出了九项干预措施，旨在攻击路径的不同节点、面向不同类型行为主体降低风险。

实践上，更稳健的预防体系应结合：

1. 模型能力评估与部署门槛；
2. 与风险相称的限制和可信访问计划；
3. 在适用情形下进行客户核验、可审计记录与报告；
4. 对材料采购实施筛查与监管；
5. 强化疫情发现、公共卫生监测与应急响应能力。

当其他层仍然有效时，任何一层的薄弱环节造成的后果都会相对更小。

DNA 与 RNA 合成订单筛查：关键的实体防线

AI 生成的设想仍须转化为实际材料与实验活动。因此，核酸合成是重要的干预节点。

提交给美国 AI 安全研究所征求意见程序的一份材料建议，建立受关注 DNA、RNA 和蛋白质序列数据库，以协助工具标记可能有害的请求。17 RAND 也提到美国的核酸合成筛查框架，以及业界对商业生物材料订单的筛查做法。

有效筛查不只是比对一份序列清单，还可包括客户身份核验、可疑订单复核、升级处置程序，以及在适用法律范围内的信息共享。这些控制措施无法消除所有风险，但能提高将危险计算机辅助转化为实体能力的难度。

生物防御政策：在约束风险的同时保留正当收益

政策挑战不只是压制生物 AI。同样可能带来双重用途风险的能力，也可支持疾病监测、诊断、医疗对策研发和微生物取证。

2026 年，大西洋理事会两党生物防御委员会将 AI 列为其《生物防御阿波罗计划》的第十六项技术优先事项。该委员会建议投资 AI 赋能的监测与诊断、医疗对策、溯源能力、模型评估与防护，以及具备适应性的公共卫生响应体系。

这也应成为更广泛讨论的框架：一面减少滥用机会，一面保留这些系统提升防范能力和医疗研究效率的潜力。

结论

目前没有公开证据支持把普通聊天机器人视为一条可直接通向端到端生物武器的途径。但这并不是政策制定者和实验室采用的衡量标准；他们正在为更强科学模型可能向部分用户带来可衡量生物学“能力增益”的情形做准备。

因此，最有力的回应既不是全面禁止生物学应用，也不是仅仅相信聊天机器人的拒答。更可行的路径是：与风险相称的访问机制、严格测试、针对双重用途请求的精准防护，以及在危险计划最终必须落地的实体与公共卫生环节建立防线。