AI 黑客由「幫手」變「流程引擎」：攻擊更快，但未到完全自動駕駛

最值得留意嘅共同發現，唔係 AI 已經創造咗完全新式嘅入侵方法，而係佢正將老練但熟悉嘅攻擊手法，變成可重複運行嘅多步驟工作流：攻擊者可以用模型幫手規劃、生成、測試、調整同擴大攻擊，所需專門人手同「親手落場」時間都會減少。現時最有力嘅證據，係 AI 加快並協調既有行動，而唔係已有系統毋須人類實質指揮、就能完全獨立作戰。107

由助手變成攻擊流程嘅一部分

Google 嘅追蹤資料描述，威脅者正由單次提問式使用，轉向整合嘅代理式（agentic）工作流，例如自動掃描、蒐集帳密、即時排錯，以及輪換基建或 IP。原本可能要多個工具、多人協作嘅攻擊步驟，因而可以壓縮成一條高速迭代嘅流程。11

不過，「代理式」唔應理解為完全放任 AI 自己攻擊。Microsoft 嘅評估係，絕大部分已觀察到嘅惡意 AI 使用，仍集中喺產生文字、程式碼或媒體，例如：

• 做目標研究及人物背景整理；
• 撰寫多語言魚叉式釣魚訊息；
• 生成、除錯或改寫惡意程式與腳本；
• 搭建攻擊基建；
• 摘要化被盜資料；
• 製作社交工程素材。10

換句話講，AI 最明顯嘅作用係把攻擊鏈中多個「費工但不一定高深」嘅環節加速，而非已經普遍取代人類決定目標、判斷時機和完成整個入侵。

國家關聯組織與勒索集團：報告揭示咗乜

Anthropic 表示，佢哋曾偵測並中斷涉及俄羅斯、中國及伊朗關聯行為者，以及以牟利為目的犯罪集團嘅活動。報告涵蓋網絡行動、影響力行動、監控、詐騙、生物濫用、常規武器研發及模型蒸餾等範疇。路透社報道，Anthropic 個案包括一項針對烏克蘭官員嘅俄羅斯關聯行動，以及該公司所指控、涉及中國 AI 公司濫用 Claude 嘅事件。呢啲屬公司歸因與個案研究，唔能夠當成所有威脅活動嘅統計全貌。724

ShinyHunters 相關案例亦說明咗重點。Microsoft 將針對企業 Microsoft 365 帳戶、以通行密鑰（passkey）及單一登入（SSO）為主題嘅社交工程活動，歸因於與 ShinyHunters、Helix 及相關勒索團伙有聯繫嘅行為者。已報告模式係先做偵察，再冒充 IT 支援人員，誘騙受害者交出存取權限，繼而竊取雲端資料。呢個係傳統帳密盜竊配合更精準目標鎖定和可大量變體嘅誘餌，並唔足以證明 AI 已獨立完成整場入侵。3

真正危險：生成、測試、修正、部署嘅迴圈

Anthropic 報告中反映嘅實務風險，在於攻擊者可以要求模型喺保安產品攔截惡意程式後修改或重建程式碼，再利用被盜帳戶憑證或 API 金鑰取得低成本運算資源，快速再試。危險之處唔係某一條惡意提示，而係「生成、測試、修正、部署」可以喺極短時間內不斷循環。87

同樣道理亦適用於冒充。支援頁面、釣魚電郵、聊天對話、複製聲線或視像素材，以及多語言版本，都可以更平、更快咁生產同更新。防守方要面對更多數量、更個人化、更多變種嘅內容；依賴固定範本、拼字錯誤或生硬語法嘅偵測規則，效果就會被削弱。Microsoft 特別提到，已觀察到 AI 被用於生成釣魚誘餌和翻譯內容。10

模型蒸餾：AI 模型本身亦成為目標

Google 將透過系統性查詢 Gemini、試圖抽取專有能力嘅行為稱為「蒸餾」或模型抽取攻擊。呢個唔只係一般網絡罪案，而係知識產權與模型能力保護問題。公開報道提及有活動使用非常大量提示；較審慎嘅理解係，攻擊者可能透過 API 探測，嘗試複製前沿模型某些有用行為，而供應商則要辨識濫用式查詢，保護模型推理能力和安全護欄。118

點解防守成本感覺被「倒轉」

AI 降低咗撰稿、本地化、資料研究、程式協助同反覆欺騙嘅邊際成本。資源較少嘅犯罪者或黑客行動者，因而可以取得以往較大型團隊先有嘅部分能力；防守者則要喺大量、頻繁改寫而且更貼身嘅惡意內容中，分辨真正通信同欺詐信息。

所以，報告反映嘅係速度與規模上嘅不對稱，而唔係每宗 AI 輔助攻擊都必定成功。610

唔止網絡安全：負責任 AI 嘅問題

同一套存取控制、能力限制與濫用監察問題，唔會止於釣魚電郵。Anthropic 報告明確涵蓋生物武器研發支援及常規武器研發相關嘅濫用嘗試，連同網絡行動一併處理。因此，政策與企業安全討論應包括濫用監察、帳戶與 API 控制、速率限制、模型抽取偵測、事故情報分享，以及高後果範疇嘅額外安全措施，而唔只係反釣魚。162

要記住嘅保留： 呢些報告記錄嘅係已被偵測和中斷嘅個案，足以顯示能力同新興操作模式；但單靠佢哋，未能證明自主式攻擊已成為網絡罪案嘅主流形式。7