该判断基于对多种前沿AI模型的测试,包括:
研究人员发现,这些模型在以下任务上表现出异常强的能力:
部分模型的能力甚至被限制或在受控环境中测试,以便让防御者有时间修补漏洞,再公开更强的功能。
换句话说,安全专家认为接下来几个月应被视为 防御部署期,而不是慢慢规划的阶段。
来自 Google Threat Intelligence Group(GTIG) 的报告显示,攻击者对AI的使用正在从实验阶段走向规模化应用。
研究人员观察到,生成式AI已经被用于多个攻击环节,例如:
更引人关注的是,Google发现了 首个已知由AI协助开发的零日漏洞利用代码案例。
该攻击利用一个开源Web管理工具中的 双因素认证(2FA)绕过漏洞。攻击者利用AI生成Python漏洞利用代码,并计划用于大规模攻击活动,但在实施前被安全研究人员发现并阻止。
报告还指出,使用AI开展网络攻击的既包括犯罪团伙,也包括部分 国家支持的攻击组织,说明这项技术正在快速扩散到整个威胁生态。
变化并不仅仅是“黑客能用AI”。真正的变化在于 攻击效率和规模的提升。
英国 AI Security Institute(AISI) 的评估显示,Anthropic 的 Claude Mythos Preview 能够完成一次完整的企业网络攻击模拟流程,而研究人员估计人类专家完成同样任务大约需要 20小时。
早期评估还显示,OpenAI 的 GPT‑5.5 系列模型在网络安全测试任务中已经达到类似能力水平,这意味着这种攻击能力不再局限于单一模型或公司。
在实际攻击中,AI可以帮助攻击者:
结果是 攻击生命周期被大幅压缩。过去需要数小时甚至数天的安全分析,现在可能在极短时间内完成。
不过目前公开证据显示,大规模 完全自动化的AI攻击还没有普遍出现。更多情况是人类黑客与AI工具结合的“增强型攻击模式”。
安全专家普遍认为,在AI攻击全面普及之前,企业需要立即提升防御能力。重点包括:
减少攻击面
梳理所有互联网暴露系统、过期软件、管理接口和依赖库,并优先修补高风险漏洞。
加速漏洞发现
利用自动化安全扫描、AI辅助代码分析和红队测试,在攻击者之前发现问题。
强化身份与访问控制
部署抗钓鱼的多因素认证(MFA),清理长期未使用账号,限制高权限访问。
提升检测能力
集中日志数据,并使用行为分析检测异常侦察、横向移动或凭证滥用。
准备更快的应急响应
建立快速隔离和修复流程,确保补丁部署和备份恢复可以在攻击发生时迅速执行。
AI正在从研究工具迅速演变为网络攻击的实际能力。前沿模型已经展示出自动发现漏洞和生成利用代码的能力,而威胁情报报告表明攻击者也在尝试将这些能力投入实战。
时间表或许仍有不确定性,但趋势已经很清晰:AI驱动的网络攻击正在逼近主流化。在未来几个月内加强防御的组织,更有可能抵御下一波网络安全威胁。