Sergey Brin 談到 Gemini 時,揭示了一項值得關注的變化:AI 模型正協助研究人員開發下一代模型。但「協助研發」不等於 AI 已能自行設定研究目標、打造後繼系統,並在沒有人工指引的情況下持續重複這個過程。現有證據支持的是早期的人機協作研發循環,而不是已獲證實、完全自主的遞迴式自我改進(RSI)。
4
35
Brin 的說法透露了什麼?
Brin 將 Google Flash 系列模型的開發,與研究人員和模型共同推進下一代產品的流程連結起來。他形容這種合作像是逐漸展開的「RSI 跑步機」。
4《Business Insider》也報導,Gemini 模型正協助打造後續版本。
35
這是重要進展,但必須分清楚「提供協助」和「自主運作」。模型可以參與研究與開發,卻不代表它們能獨立決定要解決哪些問題、掌控訓練流程,或判斷何時該推出下一代模型。Brin 的說法並未證明 Google 已將整個研發循環自動化。
較強意義上的遞迴式自我改進,是指 AI 系統能設計並開發自己的後繼系統,讓後者再接手繼續改進。Anthropic 指出,將愈來愈多開發工作交由 AI 處理,可能朝這個方向發展;但也明確表示,目前尚未達到完全自主的自我改進。
20
AI 生成程式碼只是其中一環
一則整理 Google 安全報告內容的報導稱,AI 代理程式產出了「多數」程式碼。
19這顯示 AI 已在程式開發中扮演重要角色,但現有報導並未說明相關程式碼的確切範圍、其中有多少是錯誤修正,也未交代人工審查的方式。
即使 AI 大量生成程式碼,也不能單憑這點證明它已能自主進行 AI 研究。撰寫或協助撰寫程式碼只是模型開發的一項工作,並不能說明系統能獨立規劃、執行並完成打造後繼模型的整個流程。
此外,部分與這則消息一同流傳的說法——例如團隊申請 Argon 使用額度而非晶片,或 Google 內部模型已領先數個版本——目前都未獲本文所據來源證實,因此不應視為 RSI 已實現的確切證據。
Carbon 目前有哪些已知資訊?
二手報導將 Carbon 描述為 Google 內部測試的 Gemini 4 檢查點版本,並稱其在 Google 的程式開發平台上進行測試。一名員工據稱形容它在程式設計方面「感覺像 Opus 5.5」,但這是個人觀感,並非公開基準測試結果。報導也指出,目前沒有公開的基準測試或發布日期。
6
因此,Carbon 只能有限度地說明 Google 正在內部測試模型,不能證明其能力更強或更具自主性。現有來源並未揭露 Carbon 的架構、實測表現,或它能否獨立進行 AI 研究。
Argon 的推出時程,不能直接說明研發為何加速
Google 於 9 月 30 日公布 Gemini 4 Argon,最初透過 Fairwind 計畫,向可信任的網路安全防禦人員提供使用權限。
1310 月 13 日,Google 宣布擴大開放,讓開發者與企業透過旗下平台使用,符合資格的訂閱者也可在 Gemini App 和 Google 搜尋的 AI Mode 使用。
14
1
這段時程顯示 Argon 先以受限方式推出,之後再擴大開放;但並不能證明 Fairwind 測試促成或直接帶動了後續發布。現有來源也未證實外界所稱 Gemini 3.1 Pro 之後相隔約七個月才推出旗艦模型,或程式設計能力方面的疑慮曾造成延遲。
另有報導指出,在 Google 力求追上競爭對手之際,Brin 曾敦促關鍵 AI 團隊全力投入 Gemini。
18這反映出公司將 Gemini 列為優先事項,但該報導沒有說明是否設有特定 RSI 預算、運算資源配置,或資源轉移計畫。
評估 RSI 時程,應看哪些事?
Anthropic 對外的說法相對審慎:將更多開發工作交給 AI,未來或可促成 AI 自主開發後繼系統,但完整版本尚未出現,也不是必然會發生。
20這項區分有助於檢視各種預測,以及「RSI 即將到來」之類的說法。
關鍵不只是模型能寫多少程式碼,而是它能獨立完成研發流程中的多少環節、由誰設定目標、結果如何驗證,以及人類能否介入。現有證據支持 AI 在模型開發中扮演愈來愈重要的角色,但尚不足以證明人類已失去控制,也無法證明目前的防護措施足以應付完全自主的研究循環。
最穩妥的結論,比「遞迴式自我改進」這個詞可能帶來的聯想更有限:Google 的模型正協助研究人員打造後繼模型,AI 程式設計工具似乎也已在開發中扮演重要角色。這些都是 AI 輔助研發的重要跡象,但單憑這些資訊,還不能證明 AI 系統能自主設計、打造並主導自己的後繼模型。