遞迴式自我改進(recursive self-improvement,RSI),未必要由模型直接改寫自己的權重。另一條路,是讓 AI 代理改良周邊的軟件、工具、測試環境或工作流程,令之後訓練和運行 AI 的方法變得更好。
這種「先改造造 AI 的工具」的方向,在部分中國項目的報道中可見。不過,現有資料支持的結論比較有限:有 AI 參與優化基建,並不等於它已能自主設計、驗證和建立自己的後繼系統。
怎樣才算遞迴式改進?
改一改提示詞,或者叫模型寫一段程式碼,未必就算遞迴式自我改進。較嚴格的判準是:系統提出的改動被採納,而且持續改變了日後產生改進的方法,令下一輪也可以沿用這套更好的流程。
一項關於自我改進代理運作框架的研究,描述了這樣一個循環:代理從執行紀錄找出弱點、提出框架改動,再用回歸測試驗證;只有通過測試的改動才會被接納。
52 另一篇論文則把「遞迴」界定得更嚴格:AI 研究代理的程式碼經改寫並獲接納後,下一輪就由這個新版代理繼續改寫。論文摘要稱,系統在一次為期八日的測試中連續取得七次改進;這是特定代理設定下的研究結果,並非已證明 AI 可以一般化、無限延伸地自我改進。
56
中國項目的報道,實際證明了甚麼?
36 氪在 9 月報道,一個由 GLM-5.3 驅動的基建代理,在由逾十萬張國產晶片組成的集群上優化模型推理引擎;據報工作不到兩星期完成,端到端吞吐量提升至原先基線的三倍。
21 這顯示 AI 參與基建優化有實際進展,但單憑吞吐量提升,仍不能證明代理是自行選定目標、獨立驗證結果,或改良了負責下一輪優化的流程。
月之暗面的 Kimi K3 資料,則展示了另一層基建。公司發布了 AgentEnv,稱它是支援分散式強化學習環境的基建;同時公布通訊函式庫和高效能注意力運算核心等訓練系統技術。
25 這些工具可支援模型訓練和代理工作,但工具存在本身,並不代表代理已能自主設計更好的訓練環境或後繼模型。
還要分清楚基建優化與模型訓練。智譜的文件指出,GLM-5.3 與 GLM-5.2 使用相同的基礎模型,改進來自後訓練。
2 這是有文件支持的一種模型改進路線,不能據此說模型能力提升全由周邊基建改良帶來。
五級框架:由執行指令到改良改進流程
9 月發表的論文《The Last AI Built by Humans》提出五個自主程度逐步提高的層級:執行預先指定的改進、選擇改進策略、取得未來學習所需的經驗、透過部署和環境回饋作出適應,以及改良「如何改進」本身。
33 相關報道亦把這套框架描述為一條通往 AI 建立後繼系統的發展路線。
35
這套分級有助分清不同程度的自動化:按照人類設計執行實驗,與自行決定應改進甚麼,並不是同一回事;而兩者也不等於系統可以可靠地重設並驗證自己的改進循環。這篇論文提供的是分析框架,現有資料並未證明大部分前沿系統都已處於第一或第二級。
尚未核實的說法,以及真正要看的指標
現有來源未能證實幾項被提出的詳細說法,包括 DSec 每日產生的沙盒數量、ModelBest 訓練框架和運算核心的基準成績、月之暗面的沙盒數目與復原流程,以及阿里巴巴據稱進行的訓練計劃。來源亦沒有提供所謂雷峰網調查的結果;目前找到的雷峰網報道,是 Kimi K3 技術報告,而不是遞迴式自我改進調查。
24
其他關於代理運作框架的研究亦指出,效能提升可能伴隨更高執行成本;評估時不能只看任務成功率,還要衡量運算資源和工具使用的代價。
54 更重要的是,任何遞迴式改進的說法,都應交代:由誰設定目標、由誰判斷改動是否有效,以及獲接納的改動是否真的令下一輪更好。
目前較穩妥的結論是:AI 開始協助自動化 AI 開發基建,但尚未有證據證明它能開放式地遞迴自我改進。 如果改進可以持續保留,並強化後續工作,基建代理和自我改進運作框架確實是值得留意的進展。不過,吞吐量提升、可重用工具或反覆進行訓練,都不足以單獨證明 AI 已能可靠地決定改進方向、評判結果,並建立更好的後繼系統。