Hubinger 嘅「逾一成」估算，令 AI 對齊爭論變得更尖銳

Evan Hubinger 嘅公開發言，唔係證明 AI 一定會令人類滅絕。佢講得更具體、亦更令人不安：作為 Anthropic 對齊科學主管，Hubinger 表示自己估計未來十年出現 AI 「殺死所有人類」嘅機會超過 10%；同時承認 Anthropic 仍未有解決超級智能對齊問題嘅方案，亦未見得已經踏上一條清晰可行嘅解決路線。12

所謂「對齊」（alignment），簡單講就係點樣確保能力極強嘅 AI，會可靠地按人類目標、限制同價值行事，而唔係用人類無法控制嘅方式追求一個指令。Hubinger 呢個表態，令前 Anthropic、OpenAI 研究員 Jacob Coxon 辭職時提出嘅核心憂慮更具體：前沿 AI 公司正持續推進更強系統，但點樣確實控制呢類系統，方法仍未獲證實。23

要先分清：個人估算，唔係公司結論

「超過 10%」係 Hubinger 自己嘅判斷，並非 Anthropic 嘅官方風險機率、員工共識，亦唔係科學界已確認嘅預測。12

呢個分別好重要。一個機率估算本身，唔會交代完整災難機制、確認時間表，或者證明災難較可能發生。Hubinger 亦表示，現時已存在嘅模型風險偏低；佢憂慮嘅係未來系統能力大幅躍升，包括「遞歸式自我改進」——即 AI 利用自身能力協助開發出更強嘅 AI。210

不過，呢番話之所以受到注目，唔只因為個數字夠震撼，而係說話者正正係大型前沿 AI 實驗室入面帶領對齊研究嘅人。真正揭示嘅矛盾係：模型能力一路推進，但要令超級智能始終在人類控制之下，信心同可驗證方案未有同步跟上。12

點解令 Coxon 嘅辭職警告更難忽視？

Coxon 曾經喺 OpenAI 同 Anthropic 工作。他辭職時批評，兩間公司都未有負責任行事，並正競逐邁向可自我改進嘅超級智能。Hubinger 公開認同 Coxon 一個基本說法：參與建造呢啲系統嘅人，真心認為滅絕級後果有可能發生。23

呢個唔等於所有員工都持同一看法，亦唔代表 Coxon 對兩間公司嘅批評已得到獨立驗證。但一位現職對齊主管確認其背後憂慮，令事件唔再只似一名前員工嘅單獨投訴：嚴肅嘅內部風險憂慮，可以同繼續研發最前沿模型同時存在。12

至於 Samuel Marks 相關評論，同樣要審慎理解。報道指佢表示，AI 開發者相信其技術可能造成滅絕人類或同等嚴重嘅後果；但呢屬於業內人士觀點，唔係已發表、代表全公司嘅風險估算。5

核心唔係「末日派」對「樂觀派」，而係不確定下點樣管

今次爭論好容易被簡化成「AI 末日論」對「AI 樂觀論」。但更實際嘅問題係：當傷害一旦發生可能遍及全球、而且難以逆轉，雖然發生機率同時間表都高度不確定，社會應該要求咩安全門檻？

Hubinger 嘅發言令幾個問題更突出：

• 對齊問題未解決。 公司話自己好努力做安全，唔等於已展示一套經驗證、可控制遠比現時模型強大系統嘅方法。1
• 競爭令自願減速變得困難。 Coxon 批評嘅正係競爭壓力推住公司提高能力，即使重大安全問題仍然未解。23
• 現有模型安全，唔代表問題已完。 Hubinger 明確區分咗：現時模型被認為風險較低，但未來能力更強嘅系統先係佢擔心嘅對象。210
• 外部核實不可或缺。 公眾、客戶同政府好難只靠公司自己嘅聲明，就評估其內部安全流程是否足夠；獨立評測同透明報告會更關鍵。

以上唔係即將發生災難嘅證據，但正正係一類「能力到咗危險門檻後先處理，可能已經太遲」嘅管治難題。

模型測試報道，令透明度壓力更大

有報道指 Anthropic 喺最新模型推出前，拒絕交畀英國 AI Safety Institute 測試。呢點必須保留限定：現有資料將其描述為媒體報道，並非 Anthropic 或英國政府已公開確認嘅結論。10

即使如此，呢項指稱仍說明點解外界會質疑純粹自願嘅安全承諾。假如公司內部安全主管都承認超級智能對齊仍未解決，外界自然會追問：做過咩測試？由邊個審核？結果披露咗幾多？去到咩能力門檻就必須啟動更嚴格控制？

「慢啲行」唔等於永遠停晒 AI

要求放慢步伐，唔一定等於永久停止所有 AI 研發或部署。政策討論嘅重點可以係：系統跨越特別重要嘅能力門檻之前，要有可執行、可核實嘅檢查。

可能措施包括：

• 部署前進行獨立嘅能力與安全評測；
• 對嚴重事故及具實質危險嘅能力設立申報要求；
• 清楚列明開發商何時必須加強保安與管治控制；
• 進行唔單靠公司內部保證嘅審計；
• 推動國際協調，避免任何一間公司或一個國家為咗追趕競爭對手而走捷徑。

邏輯並唔複雜：如果風險未能準確量化、但最壞後果極端嚴重，安全措施應該喺失去控制之前證明有效，而唔係事後補救。

呢番話最終揭開嘅，是前沿 AI 嘅根本拉扯

Hubinger 嘅帖文揭示咗前沿 AI 研發最核心嘅張力：主導開發者可以公開承認長遠存在嚴重風險，同時亦繼續建造令風險更迫近嘅能力。12

佢冇解答災難性 AI 傷害嘅真正機率，亦唔應被當成 Anthropic 嘅官方預言；但佢令「對齊」爭論由抽象變得更具體。問題唔再只係高階 AI 可唔可以危險，而係企業同政府能否透過獨立證據、可執行規則同國際協調，證明自己喺系統強大到難以安全管治之前，已經做好準備。110