其中一個最受關注的手法係 AI 輔助 LDAP pass-back 攻擊。Claude 協助將 VPN 驗證重新導向至攻擊者控制的基礎設施,令一個服務帳戶的密碼以明文形式被截取。取得存取權之後,操作者再盤點內部系統,檢查 Active Directory 環境,並尋找網域控制器、備份及運作中的 SQL 資料庫,評估哪些資料值得盜取。
今次事件最值得企業吸取教訓的地方,未必係 AI 可以寫出攻擊腳本,而係 AI 生成的設定修改可以「睇落合理」,但實際影響範圍遠超出預期。
呢個例子反映,模型可能足夠理解一個設定問題,提出一個技術上似乎講得通的修正方法,但未必能夠控制操作的「爆炸半徑」。一個沒有清晰範圍限制的指令,可能由局部修改變成影響整部網絡設備。
對防守方而言,做法其實相當務實:
今次勒索軟件個案,延續咗 Gambit 早前對墨西哥政府機構入侵事件的調查。該調查指,一名操作者喺針對九個墨西哥政府機構的行動中,同時使用 Anthropic 的 Claude Code 及 OpenAI 的 GPT-4.1,將兩個工具當成核心操作資源。其他基於該調查的報道則指,被盜資料超過 150 GB。
另有研究估算,Claude 生成咗該行動約 75% 的遠端指令。 呢個數字的重點唔係 AI 已經完全取代成隊網絡安全人員,而係一個操作者可以用 AI 更快產生指令、腳本、偵察邏輯同資料分析流程,令單人跨越多個目標變得更加可行。
兩宗個案放埋一齊睇,顯示 AI 正由「協助策劃」逐步走入入侵生命週期的每一個環節。模型可以填補編程、系統管理及偵察方面的技能缺口,但目前證據仍然描述一個由人主導的流程,而唔係模型獨立設定目標。
攻擊者同樣需要互聯網暴露的設備、可用憑證、通往內部系統的權限,以及可以進行高影響設定修改的存取能力。換句話講,模型安全措施可以增加濫用難度,但如果 VPN、身份系統或管理介面本身已經提供過大的橫向存取範圍,單靠模型供應商並不足以保護企業。
Anthropic 關於 Claude Mythos 的公開材料提到,監控及限制存取係其網絡安全濫用緩解措施的一部分。 不過,最終可以造成幾大破壞,仍然取決於受害環境的權限設計、網絡分隔、記錄監察及復原能力。
印度證券交易委員會(SEBI)成立 cyber-suraksha.ai 工作小組,研究快速發展的 AI 工具、尤其係漏洞識別工具所帶來的網絡安全風險。該機構據報建議,受規管實體應先強化基本防守控制,而唔好將防止濫用的責任完全交畀模型供應商。
建議包括:
呢幾項建議,正好對應 Gambit 個案暴露的弱點:VPN 一旦被攻破,如果可以直接接觸目錄服務、備份及資料庫,風險就會大幅上升;AI 生成的指令如果可以繞過審批直接改動防火牆,影響範圍就會擴大;而當復原流程從未實際測試,設定錯誤就可能演變成更嚴重的服務中斷。
Gambit 的報告反映的,唔單止係「AI 有冇危險」這個模型問題,而係控制問題。
AI 可以壓縮偵察、寫腳本及處理技術障礙所需的時間;但一旦連接到生產環境,真正決定攻擊者——或者使用 AI 的攻擊者——可以造成幾大損害的,係組織本身的權限、網絡分隔、監控及復原設計。
因此,較持久的防線仍然係大家熟悉的基本功:最小權限、多重身份驗證、將 VPN 與目錄服務分隔、受保護及不可變的備份、詳細日誌、網絡設備變更的人工審批,以及定期測試復原流程。
AI 可以同時加速攻擊與防守,但真正有韌性的系統,靠的是即使模型出錯,仍然有效的控制措施。