AI究竟有冇開始「幫自己加速」？非牟利研究機構模型評估與威脅研究組織（Model Evaluation and Threat Research，METR）最近檢視Anthropic內部研究資料後，認為該公司的模型在明確界定的任務上，進步速度可能已約為以往兩倍。不過，這是帶有相當不確定性的評估，並非證明AI已經可以自主打造更強的後繼系統。8

METR發現咩？

METR於2026年8月12日至10月29日，在Anthropic進行高接觸度評估，接觸內部研究資料，亦了解公司的研發流程。其整體判斷是：截至2026年10月，Anthropic模型在明確界定的任務上的能力進步，速度可能約為2024年3月至2025年10月期間的兩倍。8

報告亦列出一項以特定能力指標作出的估算：自2025年10月起，Anthropic在該指標上的分數增長速度，約為此前速度的1.9倍；95%信賴區間為1.5至2.8倍。要留意，這個統計區間只適用於該項指標估算，並不代表METR整體判斷的全部不確定性。METR認為，實際加速幅度合理而言可能介乎歷史進度的1.3至3倍。8

至於加速是否主要由AI帶動，METR暫時估計AI可能解釋目前加速的大部分，甚至約八成；但機構明言，這只是估算，並非精確量度因果關係的結果。41

加快進步，不等於AI已自主研發AI

評估談的是AI協助下，模型在明確界定任務上的進步速度變快。單憑這些結果，未能證明AI系統已自主完成訓練更強後繼模型所需的大部分、甚至全部工作。較穩妥的理解是，現時有跡象顯示AI正協助加快研發，而非已證實形成可以自行持續的「自我改良循環」。8

公開資料亦有局限。METR表示，Anthropic容許公開最高層次的結論，但刪去了不少METR認為最有參考價值的證據。這令評估值得關注之餘，外界亦難以全面檢視背後理據。841

另一份風險檢視：低直接風險，但預警線或已觸及

METR另外檢視Anthropic於2026年8月發布的風險報告，當中評估的模型截至7月15日已在內部部署。METR同意，這些模型直接造成災難性風險的可能性偏低；但認為Anthropic用來判斷研究加速是否達到預警水平的「2倍加速門檻」，其未被跨過的論據說服力不足，而且門檻當時有可能已經被跨過。

兩個結論並不矛盾：一回事是已評估模型造成即時災難的直接風險偏低；另一回事則是AI協助研究可能令未來開發速度加快。METR提出的警號針對研發加速步伐，並非宣稱災難即將發生。

與Amodei呼籲放慢AI發展的關係

Anthropic行政總裁Dario Amodei於9月呼籲放慢AI能力提升速度，並提出由METR等第三方機構擔任「嵌入式評估員」，檢視AI公司的安全做法和承諾。1316 METR今次獲得高接觸度檢視機會，正好展示這類外部監察如何運作；同時，資料被刪節亦反映公開審視仍有局限。816

所以，最清晰的結論是：METR發出一個關於AI協助加速研發的早期警號，並認為AI可能是重要因素；但證據和實際影響仍存在相當不確定性。這不是AI已失控、自主製造更強版本，亦不是災難迫在眉睫的證明。841

AI究竟有冇開始「幫自己加速」？非牟利研究機構模型評估與威脅研究組織（Model Evaluation and Threat Research，METR）最近檢視Anthropic內部研究資料後，認為該公司的模型在明確界定的任務上，進步速度可能已約為以往兩倍。不過，這是帶有相當不確定性的評估，並非證明AI已經可以自主打造更強的後繼系統。8

METR發現咩？

METR於2026年8月12日至10月29日，在Anthropic進行高接觸度評估，接觸內部研究資料，亦了解公司的研發流程。其整體判斷是：截至2026年10月，Anthropic模型在明確界定的任務上的能力進步，速度可能約為2024年3月至2025年10月期間的兩倍。8

報告亦列出一項以特定能力指標作出的估算：自2025年10月起，Anthropic在該指標上的分數增長速度，約為此前速度的1.9倍；95%信賴區間為1.5至2.8倍。要留意，這個統計區間只適用於該項指標估算，並不代表METR整體判斷的全部不確定性。METR認為，實際加速幅度合理而言可能介乎歷史進度的1.3至3倍。8

至於加速是否主要由AI帶動，METR暫時估計AI可能解釋目前加速的大部分，甚至約八成；但機構明言，這只是估算，並非精確量度因果關係的結果。41

加快進步，不等於AI已自主研發AI

評估談的是AI協助下，模型在明確界定任務上的進步速度變快。單憑這些結果，未能證明AI系統已自主完成訓練更強後繼模型所需的大部分、甚至全部工作。較穩妥的理解是，現時有跡象顯示AI正協助加快研發，而非已證實形成可以自行持續的「自我改良循環」。8

公開資料亦有局限。METR表示，Anthropic容許公開最高層次的結論，但刪去了不少METR認為最有參考價值的證據。這令評估值得關注之餘，外界亦難以全面檢視背後理據。841

另一份風險檢視：低直接風險，但預警線或已觸及

METR另外檢視Anthropic於2026年8月發布的風險報告，當中評估的模型截至7月15日已在內部部署。METR同意，這些模型直接造成災難性風險的可能性偏低；但認為Anthropic用來判斷研究加速是否達到預警水平的「2倍加速門檻」，其未被跨過的論據說服力不足，而且門檻當時有可能已經被跨過。

兩個結論並不矛盾：一回事是已評估模型造成即時災難的直接風險偏低；另一回事則是AI協助研究可能令未來開發速度加快。METR提出的警號針對研發加速步伐，並非宣稱災難即將發生。

與Amodei呼籲放慢AI發展的關係

Anthropic行政總裁Dario Amodei於9月呼籲放慢AI能力提升速度，並提出由METR等第三方機構擔任「嵌入式評估員」，檢視AI公司的安全做法和承諾。1316 METR今次獲得高接觸度檢視機會，正好展示這類外部監察如何運作；同時，資料被刪節亦反映公開審視仍有局限。816

所以，最清晰的結論是：METR發出一個關於AI協助加速研發的早期警號，並認為AI可能是重要因素；但證據和實際影響仍存在相當不確定性。這不是AI已失控、自主製造更強版本，亦不是災難迫在眉睫的證明。841