不過,外界目前仍然缺乏完整的技術報告。關於模型到底發現了多少漏洞、成功生成 exploit 的比例如何,暫時都沒有獨立研究公開驗證。
這個計劃集合了一小部分大型科技與安全機構,例如:
背後原因其實很直接:
如果一個 AI 可以大規模發現漏洞並生成攻擊方法,那麼黑客也可以用同樣方式。
某程度上,Glasswing 可以被視為一種 「防禦優先」的 AI 部署策略。
Mythos 的消息很快引起政府與監管機構注意。
安全專家最擔心的一點,是 AI 可能令整個漏洞利用流程變得極快。
過去要找出一個嚴重漏洞,安全研究員往往要花 數月甚至數年。
即使有自動化 fuzzing 工具,大部分分析仍然需要人類研究員參與。
但如果 AI 可以:
資安分析師現在開始把這個現象稱為 「網絡風險周期縮短」。
即使 Mythos 沒有公開發布,安全疑慮仍然存在。
由於公開資訊有限,外界仍有幾個重要問題未解:
在沒有完整研究論文或基準測試的情況下,很多關於 Mythos 的能力仍然難以完全驗證。
即使證據仍然有限,Mythos 事件已經反映出一個愈來愈清晰的趨勢:
AI 很可能很快會成為網絡安全領域最強大的工具之一,而且同時被攻擊方與防守方使用。
Anthropic 選擇限制模型、只透過防禦聯盟使用,其實反映出一個更大的擔憂:如果這類能力完全公開,可能會大幅提升網絡攻擊的規模與速度。
未來 Project Glasswing 能否成功維持這種平衡——用 AI 更快修補漏洞,而不是被攻擊者先利用——很可能會影響日後 前沿 AI 系統應該如何發布與監管。
Comments
0 comments