Anthropic的Mythos AI已完成完整网络攻击模拟——这引发了新的安全担忧

从实际角度看，瓶颈可能不再是“是否存在技能娴熟的黑客”，而是谁拥有能够将部分工作自动化的AI系统的访问权限。

为何模型管控至关重要

正是由于这些能力，像Mythos这样的模型并未被广泛发布。

Anthropic已将该系统定位为在计算机安全任务上尤为强大的系统，并限制了其可用性，使其能在受控环境中用于防御性研究和漏洞发现。

道理很直接：同样能帮助安全研究人员更快发现漏洞的AI工具，若被攻击者不受限制地获取，同样会造成威胁。

对未授权访问的担忧

即便设置了限制，一旦强大的AI系统被分享给合作伙伴、评估机构或供应商，对其进行管控的难度仍令专家们深感忧虑。

有报道称，一小群未授权用户可能通过第三方供应商环境访问了Mythos，但Anthropic表示未发现自身系统被入侵的证据。由于该信息源自二手报道，具体细节尚不确定。

不过，这一事件仍揭示了一个更广泛的担忧：功能强大的网络攻击模型可能成为盗窃或滥用的重要目标。

“防御不平等”的加剧

政策制定者和安全研究员们担心的另一个问题是潜在的“防御不平等”。

能接触到先进AI安全工具的机构，扫描系统、发现漏洞和部署补丁的速度可能会远超依赖传统工作流的团队。与此同时，攻击者也能利用AI加速漏洞的发现和利用。

这便制造了一种情境：资源充足的机构因AI增强的防御而受益，而规模较小的机构却要面对日益自动化的威胁，且缺乏对等的工具。

Mythos的评估结果究竟意味着什么

AISI的结果并不意味着AI能在无任何限制的情况下自主攻破现实世界的网络环境。此次评估是在受控环境中进行的，未必代表其面对设有主动防御的加固系统时的表现。

但这些发现确实揭示了一个清晰的转变：前沿AI模型正开始在逼真模拟中自主执行复杂的网络行动。

对政府和网络安全专业人士而言，挑战已不再是假想。随着AI系统在漏洞发现和利用方面持续进步，对访问的控制和确保防御性应用的重要性，或许将与改进模型本身变得同等重要。