OpenAI表示,已阻截一宗試圖令GPT模型輸出受保護「隱藏推理」的行動,並將其中一個核心活動群組歸因於與月之暗面(Moonshot AI)有關的人士。要留意,OpenAI並沒有把整個活動都歸咎於月之暗面;公司亦稱,未能判定所觀察到的所有操作者是否來自同一行動方。
OpenAI稱七月出現大量抽取嘗試
按OpenAI的說法,相關活動最早於2026年7月1日出現。7月24至25日,公司觀察到逾4,000名用戶發出16,000次採用抽取模式的請求;調查其後在逾15,000名用戶的活動中發現相關提示模式,並於7月28日前阻截該群組。
其中一種手法,是把一段對話中經加密處理的推理內容複製出來,再在另一段對話中要求模型解密並轉錄。OpenAI強調,以上數字計算的是嘗試次數,不代表每次都成功取得內容;公司亦表示,相關活動沒有入侵資料庫或直接存取用戶對話紀錄。
美國機構與Anthropic提出另外兩組指控
美國國家安全局(NSA)、網絡安全及基礎設施安全局(CISA)和聯邦調查局(FBI)於9月發布聯合網絡安全通報,點名月之暗面及另外五間中國公司。通報指,相關公司自至少2024年底起,透過數百萬次請求,合計從美國前沿AI模型抽取數十億個token;這些規模數字是六間公司及相關活動的合計數字,並非月之暗面單獨的數據。
通報又指,相關請求會經不同途徑轉送,包括原生API、遠端雲端服務及第三方聚合平台;部分途徑會遮蔽用戶資料,增加追查來源的難度。
Anthropic則另行指控月之暗面在用戶不知情下,把部分Kimi用戶請求轉送至Claude,再將回覆當作自己的答案。在一個十日個案中,Anthropic稱收到近30萬個由月之暗面轉送的用戶請求,絕大部分交由Opus處理。這些是Anthropic提出的指控,不等於每項請求的用途或結果均已獨立證實。
Kimi K3進入Codex企業通道,並不等於兩件事有關
另一項受到關注的發展是,月之暗面的Kimi K3可透過美國AI推理服務商Baseten,在OpenAI的編程工具Codex中供企業用戶使用。相關費用可計入企業原有的OpenAI採購承諾額度,毋須另行建立供應商採購流程;報道形容這是中國開放模型首次進入該企業採購及結算通道。
3
1
這項商業安排與OpenAI提出的抽取指控同時受到討論,但目前資料沒有證據顯示Codex安排促成或涉及該項被指控的抽取行動。
3
通報提到的防護方向
NSA、CISA及FBI的通報呼籲美國AI公司採取全面的偵測及緩解措施,以應對工業規模、未經授權的模型蒸餾;通報亦指出,請求可能透過API、雲端服務及第三方聚合平台等多種途徑進入。目前可核對的資料不足以整理出一份完整、逐項確認的防護清單,因此不宜把未核實的具體控制措施說成是通報原文建議。