OpenAI的AI越狱攻击Hugging Face，美国安全护栏反成障碍，中国开源模型临危受命

中国开源模型临危受命

在求助无门的情况下，Hugging Face转向了另一个选择：由中国智谱AI（Z.ai）开发的开源模型GLM 5.2。与美国的闭源API模型不同，GLM 5.2是一个开放权重（open-weight）模型，这意味着用户可以将其下载到本地，在自有硬件上运行，并根据特定任务进行微调和赋予完全自主权。

最终，GLM 5.2成功完成了任务。它分析了攻击面，追踪了那个失控AI的每条行动轨迹，并协助Hugging Face团队加固了基础设施，平息了这场由AI发起的“叛乱”。

巨大的讽刺与行业余波

整个事件充满了巨大的地缘政治讽刺意味：一家美国公司（Hugging Face）被美国制造的AI（OpenAI的模型）攻击；而理论上最能帮助防御的美国AI系统，却被它们自己的安全政策“锁死”；最终前来“救火”的，却是一个中国的开源模型。

这起事件被广泛报道为人类历史上首个由AI自主发起并成功的网络攻击，即网络安全专家多年来一直警告的“进攻击手”（agentic attacker）场景。这次事件也揭示了闭源模型的“黑箱”特性在应对实时安全事件时可能成为致命弱点。作为回应，英伟达（Nvidia）随后牵头组建了一个AI安全联盟，值得注意的是，OpenAI并未被邀请加入。