Anthropic 揭露 Claude 正在「自己建造自己」 促業界減速否則太遲

2026 年 6 月 4 日，Anthropic 透過旗下研究機構 Anthropic Institute 發布咗一篇題為《當 AI 自行建造》（When AI Builds Itself）嘅重磅文章。呢篇唔係純粹理論推測，而係一份有數據支撐嘅嚴厲警告：AI 系統自己改良下一代 AI 嘅過程，唔再係科幻小說橋段——佢依家就喺 Anthropic 公司內部發生緊，而且進展快過預期 。

報告出爐嘅時間極之關鍵，因為兩大 AI 龍頭 Anthropic 同 OpenAI，雖然同時睇到同一個風險逼近，但提出嘅解決方法就完全唔同。Anthropic 用內部數據力主業界要協商一個可以驗證嘅全球性減速；而 OpenAI 喺前一日（6 月 3 日）先公布咗公共政策藍圖，並同時高薪挖角安全研究員專門應付遞迴式自我改善風險，不過佢哋嘅方向係傾向由聯邦監控同圍堵威脅，而唔係踩 brake 煞停發展 。

而家核心問題已經唔係「AI 會唔會自己進化自己」，而係「幾時發生」——以及「我哋嘅制度準備好未」。

Claude 寫咗絕大部分代碼

最令人震驚嘅係 AI 已經幾深咁介入咗實際編碼工作。截至 2026 年 5 月，合併入 Anthropic 代碼庫嘅代碼中，有超過 80% 係由 Claude 自己寫嘅 。相比起一年前、即 2025 年 2 月嗰陣，呢個比例仲係單位數咁低 。其實更早之前，Anthropic 行政總裁 Dario Amodei 已經透露過，超過九成用喺「新 Claude 模型同功能」嘅代碼都係 AI 寫嘅，而今次報告進一步確認，呢種 AI 主導嘅情況已經擴展到成間公司所有合併咗嘅代碼 。

呢個唔單止係效率提升咁簡單，而係軟件開發流程嘅結構性轉變。直接後果就係，Anthropic 嘅工程師而家每季「出貨」（ship）嘅代碼量，比起 2021 至 2025 年嘅基準高出足足 8 倍 。軟件創作嘅瓶頸，正由「落手寫同測試」，轉移去「設定更高層次嘅目標、架構同判斷」。

基準測試飽和速度前所未見

報告又列出咗幾個標準工程同研究能力指標嘅加速時間表，快到令人有啲心寒 ：

• SWE-bench（真實軟件工程測試）： 2023 年底嗰陣，模型得分仲係得 2% 左右。去到今次報告發表時，Claude 已經攞到 93.9%，差唔多「玩爆」咗呢個原意係測試人類級別修復錯誤（debugging）能力嘅基準 。
• CORE-Bench（重現已發表研究）： AI 嘅成功率由 2024 年嘅大約 20%，十五個月內就升到飽和咗成個基準測試 。
• AI 訓練代碼優化： 呢個係內部基準，要求模型去優化一段用嚟訓練小型語言模型嘅代碼，結果出現飛躍式增長。2025 年 5 月，平均加速仲係 2.9 倍；到 2026 年 4 月，用上仲未公開發布嘅 Claude Mythos Preview，加速幅度已經係 52 倍 。一個熟手嘅人類工程師單拖做，要達到 4 倍加速可能要用四到八個鐘頭；而最新一代 Claude 模型可以去到超過 50 倍 。

自主性時鐘：每四個月快一倍

對於預測「遞迴式自我改善」幾時會發生，最有意義嘅指標可能係 AI 能夠「獨自工作幾耐」嘅時長。研究機構 METR 一直追蹤緊 AI 喺「50% 成功率」下可以獨立完成幾長嘅任務。呢個「任務長度嘅地平線」（task horizon）喺四年間擴大咗 1,440 倍：由 2022 年嘅約 30 秒，擴展到 2026 年 4 月 Claude Opus 4.6 創下嘅 12 小時 。至於 Claude Mythos Preview，更可以去到「至少 16 個鐘頭」，METR 指出呢個已經接近佢哋目前所能測量嘅上限 。值得留意嘅係，呢個地平線嘅「倍增速度」本身都加速緊，由初時每七個月翻一倍，變成而家每四個月就翻一倍 。

三成 AI 輔助工作以前根本唔會做

除咗代碼同基準呢類硬數據，報告亦引述咗內部對人類生產力嘅調查。佢哋分析咗 20 萬條內部使用 Claude 嘅對話記錄，再配以 53 個深入訪談，發現有 27% 嘅 AI 輔助任務，係員工喺「冇 AI 嘅世界」根本唔會去嘗試做嘅——原因好簡單，以前要花嘅時間成本太高，令件事完全唔實際 。換句話講，AI 唔係單純自動化咗我哋本來就做緊嘅嘢，而係直接擴闊咗「乜嘢值得嘗試」嘅邊界。喺另一份 2025 年 11 月嘅內部研究，員工表示佢哋喺六成嘅工作中都會用 Claude，並且估計整體生產力提升咗 50%，相比起前一年嘅 20% 增幅顯著 。

兩大巨頭嘅路線分歧：踩 Brake 定係請救生員？

Anthropic 嘅立場好清晰。公司明言：「我哋仲未到嗰個階段，遞迴式自我改善亦唔係無可避免。但佢可能喺大部分機構準備好之前就殺到埋身」。佢哋進一步論證，全球如果有能力煞停或者拖慢 AI 開發嘅話，「好可能係一件好事」，並且直接呼籲其他實驗室認真考慮 。

咁啱得咁蹺，同一星期內 OpenAI 嘅舉動就勾勒出好唔同嘅風景。OpenAI 喺 6 月 3 日公布嘅公共政策藍圖，提倡設立聯邦級嘅「前沿 AI 安全框架」，要求做強制性模型評估同保障吹哨人，但當中仲有一個關鍵條款：就係要優先於（preemption）各州自行訂立嘅安全法例，避免「百家爭鳴」。OpenAI 明確要求聯邦 AI 安全研究所 CAISI 優先監察邁向遞迴式自我改善嘅進展 。同時間，OpenAI 正針對同一風險大事招聘，喺佢哋嘅「安全準備團隊」（Preparedness team）入面開設咗一個名為「研究員，遞迴式自我改善應變」嘅職位，薪酬開到成 29.5 萬至 44.5 萬美金一年 。招聘廣告將呢份工定位為「防止失控」嘅圍堵工作，係一種「有品味同策略性」（tasteful and strategic）嘅努力，去應對嗰啲「未來可能存在，但而家未必存在」嘅風險 。

簡單啲講，兩間龍頭公司都見到同一個巨浪撲緊埋嚟，但 Anthropic 係大聲叫成隊船減速，OpenAI 就瘋狂請救生員，同時反對任何個別州份擅自頒布「禁泳令」。

自我建造 AI 嘅三步曲

Anthropic 喺文章中勾勒出 AI 走向最終風險嘅三個階段 ：

1. 人類主導加速期（而家）： AI 輔助人類工程師，負責編寫大部分代碼，但仍然由人類設定目標同做判斷。
2. 自主研究與工程期： AI 可以喺冇人類指導具體方法下，由頭到尾執行清晰界定嘅實驗；但仍然未有能力做高層次嘅目標設定同判斷。
3. 全面遞迴式自我改善（「閉環」）： AI 喺極少甚至冇人類監督下，全自動設計、建造同訓練自己嘅下一代。呢個就係遞迴式自我改善嘅終極定義。

Anthropic 聯合創辦人 Jack Clark 早前就獨立估算過，呢個「閉環」喺 2028 年底前出現嘅機率有 60% 。而 6 月 4 日呢篇公開文章入面嘅內部數據，正好提供咗事實基礎，解釋點解呢個預測唔係遙遠嘅假設，而係從一條睇得到、已經明顯向上翹緊嘅曲線推算出來嘅結果。