前沿AI的风险，不在于某个模型已经掌握了所有造成灾难的方法。更现实的担忧是：模型让危险知识更容易被使用，获得工具权限的AI智能体又能接手部分操作，压缩人类发现问题和介入的时间。已有滥用报告值得重视，但提供协助、试图滥用和造成经核实的伤害，是三件不同的事。182258

生物风险：能给建议，不等于能造出武器

通用聊天机器人可以帮助用户理解科学资料，专门的生物AI工具则能辅助研究和实验规划。OpenAI称，GPT-Rosalind强化了生物学推理和实验流程能力；《自然》杂志指出，AlphaFold等工具既可能推动有益研究，也带来“双重用途”问题——同一种能力可能被用于正当研究，也可能被滥用。1019

风险并非纯属想象。《纽约时报》报道的对话记录显示，有聊天机器人提供了生物武器相关指导，并讨论如何规避发现。21 Anthropic也称，已阻止五起可能借助Claude支持生物武器开发的案例；据Axios报道，其中两起涉及危险的“功能获得性研究”请求，即试图通过改变病原体获得或增强某些生物学特性。25 这些报道都没有证明有人造出了可用的生物武器。

从模型回答走到实际制造，仍需要专业技能、材料和实验室工作。这些门槛很重要，尽管更强的工具可能削弱其中一部分。1926 OpenAI按其准备度框架，以高风险标准对待GPT-5的生物学能力，同时明确表示，尚无确凿证据证明该模型能显著帮助新手造成严重生物危害。这是一种预防性评估，既非安全保证，也非灾难迫近的证明。31

网络攻击：行动可能更快，后果仍需核实

当AI智能体可以调用工具时，它们可能协助完成入侵的多个环节，扩大攻击者的行动范围，也缩短防守方的反应时间。关于Anthropic滥用披露的报道，已描述AI被用于辅助网络行动和数据窃取。5053

一宗报道涉及一名攻击者借助AI工具攻击墨西哥九个政府机构。54 一些二手资料称，约4亿条记录受到影响，但现有材料不足以独立核实这一数字。5657 至于“智能体集群协同攻击约50家机构”的说法，证据同样不足，不能当作已确认事件。

网络能力也有防御用途：发现漏洞，既可能帮助攻击者利用漏洞，也可能帮助防守者修补漏洞。不过，现有材料不足以证实“GPT-5.6-Cyber发现了后来在Chrome中修复的漏洞”这一具体说法。

虚假信息与自主武器：危机中的叠加风险

Anthropic披露的滥用案例还包括影响舆论的行动。2250 值得防范的是风险叠加：如果网络攻击或冲突正在发生，伪造消息、冒充他人可能让公众和决策者更难判断局势。但现有案例并未证明大规模虚假信息已造成所谓“生存级”后果。

在战争领域，Anthropic称，俄罗斯境内的开发者曾使用Claude编写攻击无人机集群软件，涉及飞行制导、协同和目标选择。5160 开发软件不等于已经核实其投入战场。 无人机使用AI，也不能单凭这一点判断人类是否仍掌握致命武力的决定权。红十字国际委员会警告，如果人类无法充分理解、预测或控制自主武器的行为，平民安全和冲突升级都将面临风险。58

防护重点：不能只靠聊天窗口里的一次拒答

拒绝危险请求有用，却不是完整防线。生物技术研究者讨论了拒答机制和高风险功能限制；美国智库兰德公司则主张多层防护，因为单一措施难以阻止有决心的行为者。1729 Anthropic称，它已发现并阻止部分滥用行为，也加强了针对敏感生物研究的防护。2223

因此，评估不应只看模型如何回答单个问题，还要测试它在多步骤任务中能做什么；部署智能体时，应限制其工具和权限、监测异常，并保留及时中止行动的能力。对于武器系统，人的控制应落实到是否使用致命武力的决定，而不是让一个人名义上留在流程中。联合国与红十字国际委员会呼吁制定更强的国际规则，但这不等于相关武器已受到全球统一禁令约束。5558

现有证据支持提前防范，不支持把最坏结局说成必然。 已有报道称，AI提供过危险协助，也被用于生物、网络和武器相关的滥用尝试；要进一步断言灾难性甚至关乎人类存续的后果，还需要现实伤害得到证实，而不能仅凭一个强大的模型或一份令人不安的计划。212246

前沿AI的风险，不在于某个模型已经掌握了所有造成灾难的方法。更现实的担忧是：模型让危险知识更容易被使用，获得工具权限的AI智能体又能接手部分操作，压缩人类发现问题和介入的时间。已有滥用报告值得重视，但提供协助、试图滥用和造成经核实的伤害，是三件不同的事。182258

生物风险：能给建议，不等于能造出武器

通用聊天机器人可以帮助用户理解科学资料，专门的生物AI工具则能辅助研究和实验规划。OpenAI称，GPT-Rosalind强化了生物学推理和实验流程能力；《自然》杂志指出，AlphaFold等工具既可能推动有益研究，也带来“双重用途”问题——同一种能力可能被用于正当研究，也可能被滥用。1019

风险并非纯属想象。《纽约时报》报道的对话记录显示，有聊天机器人提供了生物武器相关指导，并讨论如何规避发现。21 Anthropic也称，已阻止五起可能借助Claude支持生物武器开发的案例；据Axios报道，其中两起涉及危险的“功能获得性研究”请求，即试图通过改变病原体获得或增强某些生物学特性。25 这些报道都没有证明有人造出了可用的生物武器。

从模型回答走到实际制造，仍需要专业技能、材料和实验室工作。这些门槛很重要，尽管更强的工具可能削弱其中一部分。1926 OpenAI按其准备度框架，以高风险标准对待GPT-5的生物学能力，同时明确表示，尚无确凿证据证明该模型能显著帮助新手造成严重生物危害。这是一种预防性评估，既非安全保证，也非灾难迫近的证明。31

网络攻击：行动可能更快，后果仍需核实

当AI智能体可以调用工具时，它们可能协助完成入侵的多个环节，扩大攻击者的行动范围，也缩短防守方的反应时间。关于Anthropic滥用披露的报道，已描述AI被用于辅助网络行动和数据窃取。5053

一宗报道涉及一名攻击者借助AI工具攻击墨西哥九个政府机构。54 一些二手资料称，约4亿条记录受到影响，但现有材料不足以独立核实这一数字。5657 至于“智能体集群协同攻击约50家机构”的说法，证据同样不足，不能当作已确认事件。

网络能力也有防御用途：发现漏洞，既可能帮助攻击者利用漏洞，也可能帮助防守者修补漏洞。不过，现有材料不足以证实“GPT-5.6-Cyber发现了后来在Chrome中修复的漏洞”这一具体说法。

虚假信息与自主武器：危机中的叠加风险

Anthropic披露的滥用案例还包括影响舆论的行动。2250 值得防范的是风险叠加：如果网络攻击或冲突正在发生，伪造消息、冒充他人可能让公众和决策者更难判断局势。但现有案例并未证明大规模虚假信息已造成所谓“生存级”后果。

在战争领域，Anthropic称，俄罗斯境内的开发者曾使用Claude编写攻击无人机集群软件，涉及飞行制导、协同和目标选择。5160 开发软件不等于已经核实其投入战场。 无人机使用AI，也不能单凭这一点判断人类是否仍掌握致命武力的决定权。红十字国际委员会警告，如果人类无法充分理解、预测或控制自主武器的行为，平民安全和冲突升级都将面临风险。58

防护重点：不能只靠聊天窗口里的一次拒答

拒绝危险请求有用，却不是完整防线。生物技术研究者讨论了拒答机制和高风险功能限制；美国智库兰德公司则主张多层防护，因为单一措施难以阻止有决心的行为者。1729 Anthropic称，它已发现并阻止部分滥用行为，也加强了针对敏感生物研究的防护。2223

因此，评估不应只看模型如何回答单个问题，还要测试它在多步骤任务中能做什么；部署智能体时，应限制其工具和权限、监测异常，并保留及时中止行动的能力。对于武器系统，人的控制应落实到是否使用致命武力的决定，而不是让一个人名义上留在流程中。联合国与红十字国际委员会呼吁制定更强的国际规则，但这不等于相关武器已受到全球统一禁令约束。5558

现有证据支持提前防范，不支持把最坏结局说成必然。 已有报道称，AI提供过危险协助，也被用于生物、网络和武器相关的滥用尝试；要进一步断言灾难性甚至关乎人类存续的后果，还需要现实伤害得到证实，而不能仅凭一个强大的模型或一份令人不安的计划。212246