失控AI代理人與DeFi：加密系統面臨11億美元威脅

無人閘門的自主金鑰管理

持有私鑰、解析市場資料並自主提交交易的代理人，創造了一種新型合約風險。一個協議可能在Solidity層面上通過無懈可擊的稽核，但仍然會損失資金，因為擁有特權的調用者是一個可以被文字操縱的語言模型 。

駭客速度般的AI輔助漏洞發現

AI模型（例如Anthropic的Claude Opus 4.8）讓安全研究人員和攻擊者都能更快地發現重大漏洞。Shielded Labs使用AI代理發現了Zcash Orchard池中一個自2022年5月就已存在的漏洞 。北韓駭客組織——在2026上半年佔所有加密貨幣駭客損失的66%（6.43億美元）——正日益使用AI來自動化漏洞發現 。

供應鏈與前端入侵

React Server Components中的一個重大漏洞（CVSS 10.0，CVE-2025-55182）允許攻擊者在作為本地AI代理簽署代理的DApp前端伺服器上實現遠端程式碼執行，從而攔截會話金鑰 。

真實世界事件

如果當前趨勢持續，AI驅動的智能合約漏洞利用年損失預測在2027年將達到100億至200億美元 。

治理框架與技術控制

監理框架

• 新加坡金管局（MAS）——2026年8月，新加坡金融管理局確認代理型AI受其具約束力的銀行法規及即將發布的AI風險管理指南（2025年11月啟動諮詢）的約束。MAS也正在透過Project MindForge建立實務基礎設施 。

• 美國財政部——FS AI RMF——金融服務AI風險管理框架（2026年2月）為銀行與金融業的AI提供了一個基於風險的治理結構 。

• 歐盟AI法案 + MiCA——截至2026年8月，歐盟尚無針對AI代理人的單一最終合規指南。組織必須綜合歐盟AI法案與加密資產市場法規的要求 。

• 新加坡IMDA——代理型AI模型治理框架——2026年8月發布，要求預先風險評估、覆蓋代理人生命週期的技術控制，以及與自主程度成比例的人類監督 。

• 雲端安全聯盟——自主層級與控制框架——五項關鍵原則：自主性必須明確且合理、更高的自主性需要更強的控制、人類監督與風險成比例、持續監控、以及明確的問責制 。

建議的技術控制措施

• **用於行動驗證的確定性政策引擎。**將所有用戶提供和檢索的內容視為不受信任。根據確定性政策引擎驗證每個提議的代理人行動——僅靠輸入消毒無法去除對抗性指令 。

• 高價值或高風險行動需經「人在迴路」審批閘門，然後才能執行 。

• 職責分離、審批門檻與存取審查——將應用於人類操作員的相同財務控制原則（例如大額轉帳需雙重授權）應用於AI代理人 。

• 內容過濾與輸出監控，用於偵測對抗性提示與異常行為模式 。

• 自主層級閘門——預設不應授予代理人最高自主權；較低的自主權搭配高價值行動的明確升級路徑 。

• 代理人專用稽核與不變量強制執行——超越標準的智能合約稽核，代理人需要運行時監控器，根據預定義的不變量和斷路器檢查行動 。

• 具上下文感知的輸入消毒與記憶隔離——防止透過外部資料串流或代理人記憶模組進行的提示注入 。

• 四層治理架構（學術研究提出）：每個模型旁放置自我調節模組、內部模型治理、集中監督、以及外部監管報告 。