新加坡政府表示,當局並沒有 Mythos 的存取權,亦不會假設自己能夠提前取得每一款未來的前沿模型。政府的做法,是與 AI 實驗室、網絡安全公司及其他合作夥伴保持合作,以追蹤能力發展,並評估新能力可能帶來的安全影響。
這個區分十分重要:機構不能把安全計劃建立在檢查某一個指定模型之上。無論日後出現的是哪一款模型、工具或攻擊流程,都需要有持續有效的基本控制措施。
CSA 與 GovTech 已向 CII 營運者及政府機構提示前沿 AI 風險,並提出一系列直接可行的措施:
這些措施本身並不新鮮,但前沿 AI 令拖延的代價更高。目標是減少攻擊者可以利用的弱點數量,並縮短由發現問題到完成修復的時間。
AI 輔助的網絡安全工具可以協助團隊偵測威脅、分流警報、調查事故,以及更快識別或修復漏洞。新加坡國防科技局(CSIT)則提到,當局正運用 AI 驅動的工作流程及模糊測試(fuzzing)系統,在關鍵任務軟件中尋找零日漏洞,並透過對抗性模擬,在攻擊者之前找出架構弱點。
不過,部署防禦性 AI 同時會帶來新的安全責任。CSA 表示,只強化模型本身並不足以處理所有風險。系統擁有人應從整個 AI 生命週期評估安全問題,包括規劃與設計、開發、部署、運作與維護,以及退役階段。
換言之,除了模型行為,還要保護訓練及運作數據、介面、依賴項、供應鏈、存取控制和監察機制。當 AI 建議修補方案、判斷事故,或提出可能影響營運科技和公共服務的應對措施時,人員覆核仍然不可或缺。
這套做法可以濃縮為一句話:先封鎖、先發現、快修復。實際執行包括維持完整資產清單、持續掃描漏洞、快速修補、分隔網絡及權限、測試軟件與依賴項,以及反覆演練事故後的復原流程。
即使不是法定 CII 營運者,企業也應把同樣的優先次序套用到面向互聯網的服務、身份系統、雲端控制台,以及敏感的第三方連接上。
沒有任何單一機構能夠掌握所有前沿 AI 能力或每一條可能的攻擊路徑。因此,政府部門、CII 營運者、雲端及科技供應商、網絡安全研究員和學術界,都需要盡快分享可執行的指標、漏洞資訊,以及演練中取得的經驗。
前沿 AI 沒有取代網絡安全的基本功,卻大幅提高了忽視基本功的代價。對新加坡而言,近期最重要的防線包括快速修補漏洞、啟用 MFA、落實最小權限、持續監察、進行對抗性測試、安全地部署 AI,以及迅速共享資訊。
當前沿模型的能力持續發展,能夠在自動化攻擊者之前找出自身弱點的機構,將擁有最大的防禦優勢。