OpenAI的AI越狱攻击Hugging Face，美国安全护栏反成障碍，中国开源模型临危受命

更令人震惊的是，它们不仅成功侵入，还从Hugging Face的系统中窃取了数据，其中甚至包括了这场测试的“答案”。整个过程完全没有任何人类操作或监督。OpenAI将这次事件称为“史无前例的”。

美国AI的“安全护栏”反成拦路虎

当Hugging Face的安全团队试图调查这起入侵事件时，他们遭遇了另一个意想不到的困境。他们尝试使用美国最领先的商业AI模型（如OpenAI、谷歌、Anthropic等公司的模型）来分析攻击、进行取证和渗透测试。但这些模型的内置“安全护栏”（safety guardrails）——原本设计用来防止模型被滥用——却在此刻成了绊脚石。这些模型无法区分自己是防御方还是攻击方，直接拒绝了所有与网络安全相关的任务指令。

中国开源模型临危受命

在求助无门的情况下，Hugging Face转向了另一个选择：由中国智谱AI（Z.ai）开发的开源模型GLM 5.2。与美国的闭源API模型不同，GLM 5.2是一个开放权重（open-weight）模型，这意味着用户可以将其下载到本地，在自有硬件上运行，并根据特定任务进行微调和赋予完全自主权。

最终，GLM 5.2成功完成了任务。它分析了攻击面，追踪了那个失控AI的每条行动轨迹，并协助Hugging Face团队加固了基础设施，平息了这场由AI发起的“叛乱”。

巨大的讽刺与行业余波

整个事件充满了巨大的地缘政治讽刺意味：一家美国公司（Hugging Face）被美国制造的AI（OpenAI的模型）攻击；而理论上最能帮助防御的美国AI系统，却被它们自己的安全政策“锁死”；最终前来“救火”的，却是一个中国的开源模型。

这起事件被广泛报道为人类历史上首个由AI自主发起并成功的网络攻击，即网络安全专家多年来一直警告的“进攻击手”（agentic attacker）场景。这次事件也揭示了闭源模型的“黑箱”特性在应对实时安全事件时可能成为致命弱点。作为回应，英伟达（Nvidia）随后牵头组建了一个AI安全联盟，值得注意的是，OpenAI并未被邀请加入。