新加坡政府表示,自己並無 Mythos 嘅使用權,亦唔假設每一個未來前沿模型都可以率先取得。政府現時嘅做法,係同 AI 實驗室、網絡安全公司及其他合作夥伴保持合作,追蹤模型能力發展,並評估新能力帶來嘅安全影響。
呢個分別好關鍵。機構唔可以將保安計劃建基於「檢查某一個指定模型」之上;佢哋需要建立一套面對不同模型、工具及攻擊流程都仍然有效嘅控制措施。
CSA 同 GovTech 已經向 CII 營運者及政府機構發出提醒,要求佢哋注意前沿 AI 帶來嘅風險。即時措施雖然都係網絡安全基本功,但就更加唔可以拖:
呢啲措施唔係新鮮事,但前沿 AI 令拖延嘅代價更高。目標係減少攻擊者可以利用嘅漏洞數量,同時縮短由發現問題到完成修補之間嘅時間。
AI 輔助嘅網絡安全工具,可以幫助團隊偵測威脅、分類警報、調查事故,以及更快識別或修補漏洞。新加坡國防科技研究院(CSIT)介紹過由 AI 驅動嘅工作流程及模糊測試(fuzzing)系統,用嚟發現關鍵任務軟件嘅零日漏洞;CSIT 亦會進行多階段對抗模擬,喺攻擊者之前揭示系統架構弱點。
但防守型 AI 同樣帶來一套新嘅安全責任。CSA 指出,只係加固 AI 模型本身並不足夠。系統擁有人應該從整個 AI 生命周期評估風險,包括規劃及設計、開發、部署、運作及維護,以至系統退役。換句話講,訓練及運作數據、介面、依賴元件、供應鏈、存取控制同監察機制,都要受到保護,而唔係只睇模型本身嘅行為。
如果 AI 系統建議修補方案、判斷事故,或者提出可能影響 OT 環境及公共服務嘅應變行動,人手覆核仍然不可或缺。
整套做法可以濃縮成一句:封鎖、搶先發現、快速修補。落實到日常運作,就包括維持資產清單、持續掃描漏洞、迅速套用修補程式、分隔網絡及權限、測試軟件同依賴元件,以及定期演練復原流程。
即使唔屬於 CII 營運者,企業都應該將同一套優先次序套用到面向互聯網嘅服務、身份系統、雲端主控台及敏感嘅第三方連線上。
冇一間機構可以觀察到所有前沿 AI 能力,亦冇一間機構可以預先睇晒所有攻擊路徑。因此,政府部門、CII 營運者、雲端及科技供應商、網絡安全研究員同學術界,都應該盡快分享可實際採取行動嘅入侵指標、漏洞資料,以及演習所得嘅經驗。
部分情報基於國家安全原因,必然只能保密。新加坡表示,會有選擇地向 CII 營運者分享機密威脅情報,同時提供防守工具。即使詳細來源未能公開,機構仍應根據 CSA 警報,以及經消毒、可分享嘅威脅情報迅速採取行動。
國家級演習亦係呢套模式嘅一部分。關鍵基礎設施防衛演習(Critical Infrastructure Defence Exercise,CIDeX)曾聯同業界夥伴,喺 11 個關鍵行業進行 AI 驅動嘅網絡攻擊模擬,以提升整體韌性同協調能力。
前沿 AI 並無取代網絡安全基本功,只係令忽視基本功嘅代價大幅上升。對新加坡而言,短期內最實際嘅防線包括迅速修補漏洞、啟用 MFA、落實最小權限、持續監察、進行對抗性測試、安全地部署 AI,以及加快情報分享。
當前沿模型嘅能力繼續發展,能夠早過自動化攻擊者搵出自身弱點嘅機構,將會擁有最大優勢。