AI 識自己打黑客？Anthropic Mythos 通過英國網攻測試，專家憂慮失控風險

講得實際啲，個樽頸位可能已經唔再係「有冇熟手黑客」，而係邊個有權用到嗰啲可以將部分工作自動化嘅 AI 系統。

點解模型管控咁重要

就係因為呢啲能力，好似 Mythos 咁嘅模型並冇被廣泛咁放出嚟。

Anthropic 將呢個系統定位為喺電腦保安任務上特別強勁，並且限制咗佢嘅可用性，令佢只可以喺受控嘅環境入面，用嚟做防禦性研究同漏洞發現。

個理由好直截了當：同樣嘅 AI 工具，既可以幫安全研究人員更快咁發現弱點，但如果落入攻擊者嘅手，亦都可以幫佢哋造成破壞。

對未經授權存取嘅憂慮

就算有限制，專家都擔心一旦將呢啲強大嘅 AI 系統同合作夥伴、評估者或者供應商分享，要完全管控住佢哋嘅難度會有幾高。

有啲報導指出，一小撮未經授權嘅用戶可能通過第三方供應商嘅環境，存取咗 Mythos 模型，不過 Anthropic 就話冇證據顯示佢哋自己嘅系統受到損害。因為呢個資訊嚟自二手報導，所以細節仲未確定。

儘管如此，呢單嘢都反映咗一個更廣泛嘅憂慮：高能力嘅網絡攻擊模型，可能會成為盜竊或者濫用嘅貴重目標。

AI 防禦者同其他人嘅鴻溝越來越大

政策制定者同安全研究人員提出嘅另一個憂慮，係潛在嘅**「防禦不平等」**現象。

有得用先進 AI 安全工具嘅機構，可能可以比依賴傳統流程嘅團隊更快咁掃描系統、檢測漏洞同部署修補程式。同時，利用 AI 嘅攻擊者亦都可以加快發現同利用漏洞嘅速度。

咁樣就造成咗一個局面：資源充足嘅機構，受惠於 AI 增強嘅防禦；而規模較細嘅機構，就要喺冇類似工具嘅情況下，面對越嚟越自動化嘅威脅。

Mythos 評估真正釋放嘅訊號

AISI 嘅結果，並唔代表 AI 可以冇限制咁自主入侵現實世界嘅網絡。呢次評估係喺一個受控環境下進行，亦唔一定反映到佢對抗有主動防禦者嘅強化系統時嘅表現。

但呢啲發現的確展示咗一個明顯嘅轉變：頂尖嘅 AI 模型開始喺逼真嘅模擬入面，自主執行複雜嘅網絡行動。

對政府同網絡安全專業人士嚟講，呢個挑戰唔再係假設性嘅。隨住 AI 系統喺漏洞發現同利用上持續進步，控制存取權限同確保防禦性嘅採用，可能會變得同改進模型本身一樣咁重要。