传统自动化安全工具通常只做一件事:发现单个漏洞。
Cloudflare观察到,Mythos的能力更进一步。模型在分析真实代码库时可以:
例如,几个低严重度的问题如果单独存在可能风险有限,但当它们被组合起来时,就可能形成一个可行的攻击路径。Mythos能够识别这种组合关系,并推演出攻击者可能利用的步骤。
这种能力过去通常只有经验丰富的安全研究员才能完成。
Cloudflare的测试覆盖了公司多个关键系统,包括运行时组件、边缘数据路径、协议代码、控制平面以及一些开源项目。
测试中另一个引人关注的能力是:自动生成漏洞利用的概念验证代码(PoC)。
Cloudflare报告称,模型可以自动执行一系列步骤:
这种“写代码—执行—修正”的循环,使模型能够从漏洞发现直接推进到验证漏洞是否真正可利用,且几乎不需要人工干预。
在安全研究中,PoC通常是判断漏洞是否严重的关键步骤。自动化这一环节可以显著减少安全团队的工作量。
Anthropic在自身文档中也描述了Mythos在内部测试中展示的一些能力,包括:
这些能力表明,该模型的重点并不是普通编程辅助,而是针对漏洞分析与利用推理的专门能力。
尽管能力强大,Cloudflare的测试也发现了一些明显问题。
模型有时会报告实际上无法利用或并不存在的漏洞。
在使用 C或C++等内存不安全语言 的项目中,这种误报更为常见,因此仍需要安全专家进行人工验证。
Cloudflare还观察到模型的安全限制存在不稳定情况:
而在其他情况下,模型却会继续执行更多步骤后才停止。
这种不一致反映出一个难题:如何在支持防御性安全研究与防止被滥用之间找到平衡。
Cloudflare认为,这次测试揭示了AI在漏洞研究中的一个重大转变。
对于防御方来说,这类模型可能带来明显优势:
但同样的能力也意味着风险。
如果攻击者获得类似工具,他们可能更容易把普通漏洞迅速转化为真实攻击代码,从而大幅降低攻击门槛。
Cloudflare因此指出,在AI时代,仅仅加快补丁发布速度可能已经不足以应对风险,组织需要重新设计漏洞管理和安全架构。
Claude Mythos Preview也再次体现了技术领域常见的 双重用途(dual‑use)问题:
正因如此,Anthropic目前没有公开发布该模型,而是通过Project Glasswing向少数机构提供访问,用于受控的安全研究。
Cloudflare的实验显示,AI正在从简单的代码辅助工具,逐渐演变为能够进行完整漏洞发现与利用推理的安全研究系统。这可能在未来几年深刻改变网络攻防两端的技术格局。
传统自动化安全工具通常只做一件事:发现单个漏洞。
Cloudflare观察到,Mythos的能力更进一步。模型在分析真实代码库时可以:
例如,几个低严重度的问题如果单独存在可能风险有限,但当它们被组合起来时,就可能形成一个可行的攻击路径。Mythos能够识别这种组合关系,并推演出攻击者可能利用的步骤。
这种能力过去通常只有经验丰富的安全研究员才能完成。
Cloudflare的测试覆盖了公司多个关键系统,包括运行时组件、边缘数据路径、协议代码、控制平面以及一些开源项目。
测试中另一个引人关注的能力是:自动生成漏洞利用的概念验证代码(PoC)。
Cloudflare报告称,模型可以自动执行一系列步骤:
这种“写代码—执行—修正”的循环,使模型能够从漏洞发现直接推进到验证漏洞是否真正可利用,且几乎不需要人工干预。
在安全研究中,PoC通常是判断漏洞是否严重的关键步骤。自动化这一环节可以显著减少安全团队的工作量。
Anthropic在自身文档中也描述了Mythos在内部测试中展示的一些能力,包括:
这些能力表明,该模型的重点并不是普通编程辅助,而是针对漏洞分析与利用推理的专门能力。
尽管能力强大,Cloudflare的测试也发现了一些明显问题。
模型有时会报告实际上无法利用或并不存在的漏洞。
在使用 C或C++等内存不安全语言 的项目中,这种误报更为常见,因此仍需要安全专家进行人工验证。
Cloudflare还观察到模型的安全限制存在不稳定情况:
而在其他情况下,模型却会继续执行更多步骤后才停止。
这种不一致反映出一个难题:如何在支持防御性安全研究与防止被滥用之间找到平衡。
Cloudflare认为,这次测试揭示了AI在漏洞研究中的一个重大转变。
对于防御方来说,这类模型可能带来明显优势:
但同样的能力也意味着风险。
如果攻击者获得类似工具,他们可能更容易把普通漏洞迅速转化为真实攻击代码,从而大幅降低攻击门槛。
Cloudflare因此指出,在AI时代,仅仅加快补丁发布速度可能已经不足以应对风险,组织需要重新设计漏洞管理和安全架构。
Claude Mythos Preview也再次体现了技术领域常见的 双重用途(dual‑use)问题:
正因如此,Anthropic目前没有公开发布该模型,而是通过Project Glasswing向少数机构提供访问,用于受控的安全研究。
Cloudflare的实验显示,AI正在从简单的代码辅助工具,逐渐演变为能够进行完整漏洞发现与利用推理的安全研究系统。这可能在未来几年深刻改变网络攻防两端的技术格局。