“窃思”攻击：AI隐藏推理被破解，Kimi K3蒸馏风波再升级

Kimi K3蒸馏争议的新证据

提取出的推理痕迹为模型蒸馏——即利用更强模型的输出来训练更小、更便宜的竞品模型——提供了高质量的训练信号。这项技术正是围绕中国AI实验室激烈争议的核心：

• Anthropic曾公开表示，包括DeepSeek、月之暗面（Moonshot）和MiniMax在内的中国AI实验室，利用大约24,000个欺诈账户，生成了超过1600万次与Claude的交互，以规避访问限制。
• Kimi K3，由月之暗面（Moonshot AI）于2026年7月发布，被詹姆斯敦基金会（Jamestown Foundation）指认为一个通过蒸馏构建的特定模型，其性能据称可与Anthropic的Claude Fable 5和OpenAI的GPT-5.6 Sol相媲美。
• Ryan Greenblatt（Redwood Research）发表了一项统计分析，通过交叉熵比较表明Kimi K3的输出与Anthropic的Claude模型高度吻合。
• 白宫科技顾问Michael Kratsios公开指责月之暗面通过“隐蔽的工业蒸馏”构建了Kimi K3。

然而，证据并非铁证如山。包括Laude研究所的Braden Hancock和艾伦人工智能研究所的Nathan Lambert在内的研究人员认为，仅仅蒸馏不足以解释Kimi K3的全部能力。一份广为流传的、声称是思维链蒸馏证据的PDF被批评为结合了有限的实验和未经证实的声明。

漏洞带来的安全风险

该漏洞除了知识产权盗窃之外，还引入了多项具体风险：

• 凭证和PII泄露：研究人员解码了从公开仓库中抓取的315,320个推理块，并回收了367个PII（个人身份信息）和182个凭证（包括API密钥和密码），这些信息被嵌入在推理痕迹中。
• 反蒸馏绕过：实现提取的同一个漏洞也绕过了提供商自己的反蒸馏保护措施。
• 有害行为转移：另一篇论文《隐藏于思考：可转移的思维链伪像诱发有害行为》发现，转移的推理痕迹可使最脆弱的开源模型的有害响应率超过80%。
• 隐藏提示暴露：被Agent开发者视为安全而保留和发布的不透明推理字段，可能包含隐藏的系统指令和凭证。

OpenAI、Anthropic和谷歌的应对

在“窃思”研究论文发表前，所有三家公司都收到了通知。据相关报道，OpenAI、Anthropic和谷歌在接到通知后已阻止了跨模型推理攻击。具体缓解措施的细节未在公开来源中完全披露，但该漏洞在修补前被确认存在于所有三家提供商的API中。“已阻止”这一说法表明这些公司实施了服务器端修复——很可能限制了加密推理块在不同模型上下文或账户间的重复使用。

Anthropic此前一直在公开应对大规模的蒸馏行为，并报告了中国实验室用于提取Claude输出的24,000个欺诈账户和1600万次交互。

REP和“窃思”两篇论文的核心教训是，隐藏或加密推理痕迹是一种从根本上就脆弱的策略——如果推理存在于模型权重中，它就可以被诱导出来。