AI 識自己打黑客？Anthropic Mythos 通過英國網攻測試，專家憂慮失控風險

呢個模擬需要串連起入侵嘅多個階段，包括偵察、識別漏洞，同埋利用漏洞去攞到更深層嘅網絡權限。喺測試入面，只要畀定網絡存取權限同清晰嘅指令，呢個模型就可以自主執行呢啲多步驟嘅行動。

呢種能力之所以咁緊要，係因為佢令 AI 系統唔再局限於回答安全問題或者寫啲獨立嘅程式碼片段。相反，佢哋而家識得跟從一個現實嘅攻擊流程——計劃同執行多個步驟去達到一個目標。

證據顯示 AI 網絡攻擊能力提升得好快

英國政府已經發出警告，話新嘅 AI 模型越來越識得處理一啲以前需要罕有網絡安全專業知識先做到嘅任務。呢啲任務包括：

• 識別軟件漏洞
• 撰寫漏洞利用程式碼
• 加快發現同利用漏洞嘅過程

官員話，同傳統由人主導嘅攻擊相比，呢種轉變可能會急劇增加網絡行動嘅速度同規模。

講得實際啲，個樽頸位可能已經唔再係「有冇熟手黑客」，而係邊個有權用到嗰啲可以將部分工作自動化嘅 AI 系統。

點解模型管控咁重要

就係因為呢啲能力，好似 Mythos 咁嘅模型並冇被廣泛咁放出嚟。

Anthropic 將呢個系統定位為喺電腦保安任務上特別強勁，並且限制咗佢嘅可用性，令佢只可以喺受控嘅環境入面，用嚟做防禦性研究同漏洞發現。

個理由好直截了當：同樣嘅 AI 工具，既可以幫安全研究人員更快咁發現弱點，但如果落入攻擊者嘅手，亦都可以幫佢哋造成破壞。

對未經授權存取嘅憂慮

就算有限制，專家都擔心一旦將呢啲強大嘅 AI 系統同合作夥伴、評估者或者供應商分享，要完全管控住佢哋嘅難度會有幾高。

有啲報導指出，一小撮未經授權嘅用戶可能通過第三方供應商嘅環境，存取咗 Mythos 模型，不過 Anthropic 就話冇證據顯示佢哋自己嘅系統受到損害。因為呢個資訊嚟自二手報導，所以細節仲未確定。

儘管如此，呢單嘢都反映咗一個更廣泛嘅憂慮：高能力嘅網絡攻擊模型，可能會成為盜竊或者濫用嘅貴重目標。

AI 防禦者同其他人嘅鴻溝越來越大

政策制定者同安全研究人員提出嘅另一個憂慮，係潛在嘅**「防禦不平等」**現象。

有得用先進 AI 安全工具嘅機構，可能可以比依賴傳統流程嘅團隊更快咁掃描系統、檢測漏洞同部署修補程式。同時，利用 AI 嘅攻擊者亦都可以加快發現同利用漏洞嘅速度。

咁樣就造成咗一個局面：資源充足嘅機構，受惠於 AI 增強嘅防禦；而規模較細嘅機構，就要喺冇類似工具嘅情況下，面對越嚟越自動化嘅威脅。

Mythos 評估真正釋放嘅訊號

AISI 嘅結果，並唔代表 AI 可以冇限制咁自主入侵現實世界嘅網絡。呢次評估係喺一個受控環境下進行，亦唔一定反映到佢對抗有主動防禦者嘅強化系統時嘅表現。

但呢啲發現的確展示咗一個明顯嘅轉變：頂尖嘅 AI 模型開始喺逼真嘅模擬入面，自主執行複雜嘅網絡行動。

對政府同網絡安全專業人士嚟講，呢個挑戰唔再係假設性嘅。隨住 AI 系統喺漏洞發現同利用上持續進步，控制存取權限同確保防禦性嘅採用，可能會變得同改進模型本身一樣咁重要。