非營利機構「模型評估與威脅研究」(Model Evaluation and Threat Research,METR)近期對 Anthropic 進行高權限評估,認為截至 2026 年 10 月,該公司提升模型在明確定義任務上表現的速度,可能約為 2024 年 3 月至 2025 年 10 月期間的兩倍。這項結果顯示 AI 可能正在加速 AI 研究,但並未證明 AI 已能自主打造自己的後繼系統。
8
METR 的評估發現了什麼?
METR 在 2026 年 8 月 12 日至 10 月 29 日期間,取得 Anthropic 內部研究及開發流程相關資訊進行評估。除了上述整體判斷,報告也提供一項以基準測試為基礎的估計:自 2025 年 10 月以來,Anthropic 能力指標的分數成長速度約為此前的 1.9 倍,95% 信賴區間為 1.5 至 2.8 倍。
8
不過,這個信賴區間只對應基準測試估計,不代表 METR 整體判斷的全部不確定性。METR 表示,實際加速幅度合理而言可能落在歷史速度的 1.3 至 3 倍之間。
8
至於加速的原因,METR 初步猜測,目前加速幅度中有過半可能來自 AI 輔助研究,甚至估計約為 80%。但這是研究團隊明言的推測,並非精確測量出來的因果比例。
41
加速不等於 AI 已能自我迭代
這份評估談的是 Anthropic 在明確定義任務上的進展加快,不能直接推論 AI 已自主完成訓練更強系統所需的大部分工作。較謹慎的解讀是:AI 輔助研發可能正在加快進度,而非已證實出現可自行延續的自我改進循環。
8
公開資料也有侷限。METR 表示,Anthropic 允許其公布最高層級的結論,卻遮蔽了研究團隊認為最有參考價值的大部分證據。這使評估具有重要性,但外界也因此難以完整檢視結論背後的依據。
8
41
另一份風險審查:門檻可能已被跨越
METR 另行審查 Anthropic 於 2026 年 8 月發布的風險報告,並檢視截至同年 7 月 15 日在內部部署的模型。METR 同意,這些模型直接造成災難性風險的可能性低;但它認為,Anthropic 用來說明「2 倍加速門檻」(2x Acceleration Threshold)尚未觸發的論證有所誇大,而且該門檻可能已經被跨越。
兩項判斷並不矛盾:模型本身目前直接造成災難的風險偏低,與 AI 輔助研究可能加快未來技術發展,是不同層次的問題。METR 提醒的是研究加速的速度,並未表示災難迫在眉睫。
與 Amodei 呼籲放慢 AI 發展的關聯
Anthropic 執行長 Dario Amodei 曾於 9 月呼籲放慢 AI 能力提升的速度,並提議由 METR 等第三方機構進駐企業,評估其安全做法與承諾是否落實。
13
16 這次高權限評估,正呈現了他所主張的外部監督模式;同時,資料遭遮蔽也顯示,外界公開檢視仍可能受到限制。
8
16
因此,METR 的結論更像是一項早期警訊,而不是 AI 已失控、自我改進即將失速的宣告:研究機構認為 AI 發展可能正在加快,AI 輔助或許是重要推力,但現有證據及其意涵仍存在相當大的不確定性。
8
41