Anthropic的Mythos AI已完成完整网络攻击模拟——这引发了新的安全担忧

该模拟要求串联起入侵的多个阶段，包括侦查、识别漏洞，并加以利用以获取更深的网络访问权限。在测试中，当获得网络访问权限和明确指令时，该模型能够自主执行这些多阶段操作。

这项能力的重要性在于，它推动AI系统超越了仅仅回答安全问题或编写孤立代码片段的阶段。相反，它们能够遵循一个现实的攻击工作流——为达成目标而规划并执行多个步骤。

AI网络能力正快速提升的证据

英国政府已发出警告，称新一代AI模型正日益具备以往需要稀缺网络专业知识才能完成的任务能力。这些任务包括：

• 识别软件漏洞
• 编写漏洞利用代码
• 加速整个发现与利用过程

官员们表示，与传统的由人主导的攻击相比，这种转变可能会极大提升网络攻击的速度和规模。

从实际角度看，瓶颈可能不再是“是否存在技能娴熟的黑客”，而是谁拥有能够将部分工作自动化的AI系统的访问权限。

为何模型管控至关重要

正是由于这些能力，像Mythos这样的模型并未被广泛发布。

Anthropic已将该系统定位为在计算机安全任务上尤为强大的系统，并限制了其可用性，使其能在受控环境中用于防御性研究和漏洞发现。

道理很直接：同样能帮助安全研究人员更快发现漏洞的AI工具，若被攻击者不受限制地获取，同样会造成威胁。

对未授权访问的担忧

即便设置了限制，一旦强大的AI系统被分享给合作伙伴、评估机构或供应商，对其进行管控的难度仍令专家们深感忧虑。

有报道称，一小群未授权用户可能通过第三方供应商环境访问了Mythos，但Anthropic表示未发现自身系统被入侵的证据。由于该信息源自二手报道，具体细节尚不确定。

不过，这一事件仍揭示了一个更广泛的担忧：功能强大的网络攻击模型可能成为盗窃或滥用的重要目标。

“防御不平等”的加剧

政策制定者和安全研究员们担心的另一个问题是潜在的“防御不平等”。

能接触到先进AI安全工具的机构，扫描系统、发现漏洞和部署补丁的速度可能会远超依赖传统工作流的团队。与此同时，攻击者也能利用AI加速漏洞的发现和利用。

这便制造了一种情境：资源充足的机构因AI增强的防御而受益，而规模较小的机构却要面对日益自动化的威胁，且缺乏对等的工具。

Mythos的评估结果究竟意味着什么

AISI的结果并不意味着AI能在无任何限制的情况下自主攻破现实世界的网络环境。此次评估是在受控环境中进行的，未必代表其面对设有主动防御的加固系统时的表现。

但这些发现确实揭示了一个清晰的转变：前沿AI模型正开始在逼真模拟中自主执行复杂的网络行动。

对政府和网络安全专业人士而言，挑战已不再是假想。随着AI系统在漏洞发现和利用方面持续进步，对访问的控制和确保防御性应用的重要性，或许将与改进模型本身变得同等重要。