Anthropic在其官方博客和X(原推特)上声明:“此命令的最终效果是,我们必须骤然对所有客户禁用Fable 5和Mythos 5,以确保合规。” 不过,其包括使用广泛的Claude聊天机器人在内的其他AI模型,访问不受影响
。
美国政府的国家安全关切,核心在于官员们所称的“越狱漏洞”以及这些模型潜在具备的自主网络安全研究能力 。据报道,政府方面仅提供了口头证据,称存在一种狭窄的、非普适性的越狱方法——大体上是要求模型阅读特定代码库并修复其中的软件漏洞
。
颇具讽刺意味的是,Anthropic早前对自己模型的安全警告,可能无意中加剧了政府的警觉。公司此前曾承认,其最强但仅供限制性使用的Mythos 5模型存在重大网络安全风险,这也促使白宫为获得特殊访问权限的联邦机构设立了保护措施 。而Fable 5作为训练来拒绝有害请求的“更安全”版本,在禁令发布前几天才向公众推出,但政府的迅速出手表明,它并不认为这些安全措施已经足够
。
这是美国政府首次将特定的大语言模型归类为国家安全关注对象,并动用了“视同出口”规则来限制甚至身处美国本土的外籍人士的访问 。美国商务部长霍华德·卢特尼克亲自致信Anthropic首席执行官达里奥·阿莫迪,传达了此项出口管制
。
这意味着即便是参与“玻璃翼计划”(Anthropic内部的前沿安全项目)、但非美国公民或永久居民的研究员和工程师,也被禁止访问这些模型 。由于限制直指公司内部,Anthropic无法简单通过限制外部客户访问、同时继续内部开发来应对。唯一的合规路径,就是在找到技术或法律解决方案之前,进行彻底的全球暂停使用
。
截至此刻,这一史无前例的命令依然有效,这两个因国家安全原因被从公众访问中撤下的最强大AI模型仍处于离线状态。这局面将持续多久——以及它将为其他前沿AI公司树立何种先例——将是这场围绕谁有权使用最强AI系统的、迅速激化的辩论的下一个章节。
Comments
0 comments