模型蒸餾嘅原理係噉:研究員唔係直接複製個模型本身,而係透過公共API向一個強大嘅「老師」模型發送大量查詢,收集佢嘅輸出(問題同答案),再用呢啲問答對去訓練一個更細、更平嘅「學生」模型,令學生模型學到老師模型嘅推理能力。對於軍事應用嚟講,呢種方法令解放軍可以喺本地硬件上部署AI系統,而唔需要由零開始建立前沿模型所需嘅龐大運算基礎設施。
路透社同華盛頓嘅JamesTown Foundation一齊審查嘅論文同專利顯示,模型蒸餾已經被用嚟開發多種國防相關AI系統:
一份來自解放軍96904部隊嘅論文明確描述咗點樣蒸餾美國模型,去建立「更細同更安全」嘅版本嚟應用喺國防。另一份來自解放軍96941部隊(駐北京嘅軍事情報同網絡戰單位)嘅論文,描述咗使用OpenAI嘅GPT-3.5去處理敏感嘅軍事源代碼。2024年一份來自解放軍國防科技大學嘅論文,就用蒸餾技術縮細咗一個圖像處理模型,令佢可以喺資源有限嘅軍事硬件上運行。
模型蒸餾嘅核心戰略優勢係經濟。由零開始訓練一個前沿AI模型需要花費數十億美元,以及多年嘅研究同開發、龐大嘅數據集,同埋先進嘅半導體晶片。蒸餾令中國研究員幾乎可以繞過晒所有呢啲投資。
透過API查詢前沿模型——仲要開假帳號、用代理網絡避開速率限制——中國開發者可以用好低成本就提取到同樣嘅能力。Anthropic嘅調查發現,有大約24,000個假帳號針對Claude嘅代理推理、工具使用同編碼能力,產生咗超過1,600萬次查詢。中國AI開發商MiniMax自己就佔咗超過1,300萬次。
呢啲證據引發咗一連串指控同政策回應:
雖然模型蒸餾係一條有效嘅捷徑,但佢有固有嘅技術限制,對軍事應用嚟講好重要:
能力盜竊加上安全退化,造成一個危險嘅局面:
持續嘅蒸餾戰爭正喺多方面加速中美喺AI領域嘅脫鉤。更嚴格嘅先進晶片出口管制、API存取限制、開發者帳戶嘅KYC要求,以及潛在嘅金融制裁,都係考慮之列。
核心嘅戰略風險好清楚:蒸餾令中國軍方可以用極低成本,寄生美國嘅AI投資嚟做國防應用,而過程中嘅安全退化可能會產生更少制約、更危險嘅軍事AI系統。