對防禦方嚟講,呢個能力可能非常重要:
但問題係,同一個能力亦可能被攻擊者利用。如果工具被廣泛取得,就可能變成自動化尋找漏洞嘅「武器」。因此 Anthropic 決定 暫時唔公開發布 Mythos,而係只透過受控計劃提供。
Mythos 目前只透過 Project Glasswing 提供畀少量機構,在受控環境中用於防禦性網絡安全研究。
最初,參與者受到保密協議(NDA)限制,唔可以廣泛分享 AI 發現嘅漏洞資訊。
但 Anthropic 最近改變政策:
支持者認為,呢個做法更接近網絡安全界常見嘅 「負責任漏洞披露」(responsible disclosure) 模式——即係在公開前先通知相關防禦方。
Project Glasswing 集合咗多間大型科技同網絡安全公司,一齊測試 AI 協助漏洞發現嘅能力。
公開資料顯示,參與機構包括:
呢啲公司負責或保護大量全球關鍵數碼基礎設施,例如雲端服務、作業系統同金融系統,因此被視為測試呢類 AI 工具嘅理想合作夥伴。
即使現在容許分享漏洞情報,Mythos AI 本身仍然高度受控。
原因其實好直接:研究顯示 Mythos 可以快速找出嚴重漏洞,如果落入惡意人士手中,可能用嚟大規模發動攻擊。
為降低風險,Anthropic 採取幾項措施:
AI 自動發現漏洞嘅能力,已經引起政府與金融監管機構注意。
據報多國金融監管部門同中央銀行已要求 Anthropic 提供簡報,因為擔心 Mythos 可能揭示銀行、支付系統等關鍵金融基礎設施嘅安全弱點。
換句話講,呢類 AI 工具嘅影響已經唔止係科技問題,仲涉及 國家安全同經濟穩定。
Mythos 同 Project Glasswing 亦引發網絡安全界嘅更大討論。
一派專家認為:
但另一派人就擔心:
AI 可能 大幅降低發動網絡攻擊嘅成本。
Anthropic 現時嘅策略——限制存取、受控測試、有限度分享情報——可以視為嘗試喺兩者之間取得平衡。
Mythos 計劃其實暗示住一個更大趨勢:未來 AI 可能比人類研究員更快發現軟件漏洞。
如果呢個趨勢持續,網絡安全嘅核心問題就可能由「點樣找到漏洞」,轉變為:
Project Glasswing 可以視為一次早期實驗——試圖利用前沿 AI 強化全球防禦,同時避免同一技術變成新一代網絡攻擊武器。