這項模擬需要將入侵的各個階段串聯起來,包括偵察、識別漏洞以及利用這些漏洞來取得更深的網路存取權限。在測試中,當給予網路存取權限和明確指令時,該模型能夠自主地執行這些多階段動作。
這種能力之所以重要,是因為它讓 AI 系統超越了單純回答安全問題或編寫孤立程式碼片段的範疇。相反地,它們現在能遵循一個實際的攻擊流程,有計劃地執行多個步驟以達成目標。
英國政府已警告,新一代的 AI 模型越來越能勝任過去需要稀有網路安全專業知識的任務。這些任務包括:
官員指出,這種轉變與傳統的人為驅動攻擊相比,可能會大幅提高網路攻擊的速度和規模。
務實來看,瓶頸可能不再是「是否存在技術高超的駭客」,而是 「誰能取得可以自動化部分工作的 AI 系統」。
正因為具備這些能力,像 Mythos 這樣的模型並未被廣泛釋出。
Anthropic 將此系統定位為在電腦安全任務上特別強大,並限制其可用性,使其能在受控環境中用於防禦性研究和漏洞發現。
其理由很直接:同樣能幫助安全研究人員更快找到弱點的 AI 工具,若被攻擊者無限制地取得,同樣也能幫助他們。
即使有限制,專家們仍擔心,一旦強大的 AI 系統被分享給合作夥伴、評估者或供應商,要將其完全控管是多麼困難。
某些報導指出,一小群未經授權的使用者可能透過第三方供應商環境存取了 Mythos,儘管 Anthropic 表示,沒有證據顯示其自身的系統遭到入侵。由於此資訊來自二手報導,細節仍不明確。
儘管如此,此事件闡明了一個更廣泛的擔憂:高能力的網路攻擊模型可能成為竊取或濫用的高價值目標。
政策制定者和安全研究人員提出的另一個擔憂是潛在的 「防禦不平等」。
能夠取得先進 AI 安全工具的組織,或許能以比仰賴傳統工作流程的團隊快得多的速度掃描系統、偵測漏洞並部署修補程式。在此同時,使用 AI 的攻擊者則能加速發現和利用弱點。
這創造出一種情境:資源充足的組織受益於 AI 強化的防禦,而較小的組織則在缺乏相應工具的情況下,面臨日益自動化的威脅。
AISI 的結果並不意味著 AI 能毫無限制地自主入侵真實世界的網路。這項評估是在受控環境中進行,並不一定反映其在面對設有強化系統及主動防禦者的目標時之表現。
但這些發現確實表明了一個明顯的轉變:前沿 AI 模型正開始在逼真的模擬中自主執行複雜的網路攻擊行動。
對於政府和安全專業人士而言,挑戰已不再是想像。隨著 AI 系統在漏洞發現和利用方面的能力持續增強,控制存取權限與確保防禦性採用,可能將與改進模型本身同等重要。