微軟同Nvidia聯手出AI自主安全規則 容器封鎖、Project Perception同開放安全聯盟全面啟動

縱深防禦按層劃分 — 微軟安全網誌（2026年5月）定義咗四個緩解層：模型層（訓練數據、微調、拒絕行為）、安全系統層（運行時內容過濾、護欄、紀錄、可觀察性）、應用層（權限、工作流程、升級路徑），同定位層（透明度文件同UX披露） 。6月嘅另一篇網誌加入更細嘅四層視角：模型層、安全系統層、元提示同基礎層，同代理人層（工具使用權限同人機互動檢查） 。

租戶級MCP伺服器白名單 — 組織必須維護已批准嘅Model Context Protocol（MCP）發佈商同伺服器清單。微軟MCP目錄提供經審核嘅第一方伺服器，所有外部組件都被視為軟件供應鏈一部分。建議喺MCP連線上停用「允許全部」，只啟用代理人需要嘅特定工具 。

代理人部署嘅SBOM清單 — 軟件材料清單包含工具依賴項，安裝前要驗證MCP伺服器嘅簽名同來源。微軟仲建議掃描工具描述入面嘅隱藏指令，對所有外部工具定義進行版本鎖定同更改監控 。

基於政策嘅護欄 — 除咗監控，組織可以應用基於政策嘅控制，設定代理人可以做啲乜，通過Agent 365 SDK同Windows政策基礎架構執行 。微軟Windows開發者網誌寫：「封鎖限制咗代理人可以存取同做嘅嘢，令非確定性行為唔會變成不可控風險」 。

控制平面治理 — 集中擁有權、身份生命週期管理同合規執行，涵蓋組織入面所有代理人。微軟Azure雲端採用框架建議建立集中同可執行嘅治理同安全基線，同現有身份、數據治理同安全實踐對齊 。

呢啲規則點樣應對安全風險

呢個框架針對完整攻擊鏈——供應鏈毒化（透過白名單同SBOM）、權限提升（透過MXC隔離）、數據外洩（透過運行時護欄同內容過濾），同未經授權嘅工具使用（透過權限控制同人機互動循環） 。微軟經過一年紅隊測試代理人系統後，喺失敗模式分類中仲加入零信任代理人間架構：高風險場景下，代理人身份應該用密碼學方式建立，而唔係假設佢喺工作流程嘅位置 。

更廣泛嘅業界轉變：主動網絡防禦配合更緊控制

2026年中兩個重大計劃展示咗業界點樣轉向用AI代理人進行主動同防禦性網絡安全操作，同時實施更嚴格嘅護欄。

微軟Project Perception

2026年7月27日公布，Project Perception係一個代理人安全系統，超越咗單純產生警報，做到持續自動行動 。微軟形容佢係一個「持續學習嘅防禦系統」，可以「推理、優先排序同以機器速度行動，同時將人緊緊掌握控制權」 。

• 佢部署三類專門代理人——紅隊代理人（好似攻擊者咁探測）、藍隊代理人（調查同分類威脅），同綠隊代理人（修復同加固）——協調完成完整嘅找出-分類-修復循環 。代理人通過編排工作流程共享情報，令「一個發現變成一個修復，主動咁做，唔使每一步都交接」 。
• 呢個平台建基於微軟第一個內部網絡安全模型MAI-Cyber-1-Flash，微軟話佢「以領先模型一半嘅成本，交出世界級表現」 。
• 微軟據報已將自己安全營運嘅大部分轉移到呢個AI模型，計算成本減少大約50% 。
• Project Perception喺2026年8月3日進入公開預覽，喺Microsoft Defender入面提供 。高影響行動仍然需要人類批准 。

點解咁重要： 呢個係具體例子，顯示AI代理人被賦予主動、自主嘅網絡防禦角色——探測系統、修補漏洞、回應威脅，唔使等人指示。更緊嘅控制嚟自上面嘅封鎖規則：Project Perception代理人仍然喺MXC容器入面運作，受政策護欄約束，有可觀察性同人類監督 。

Nvidia嘅開放安全AI聯盟（OSAA）

2026年7月27日成立——喺一次高調嘅Hugging Face事件暴露咗失去自主AI代理人控制風險嘅幾日後——OSAA係一個業界聯盟，專門建設開放源碼安全工具畀AI代理人 。

• 創始成員（37個組織）： 微軟、IBM、Cisco、CrowdStrike、Cloudflare、Dell、Hewlett Packard Enterprise、Linux基金會、Hugging Face、Adobe、Capital One、Salesforce、SAP、SpaceXAI等 。值得注意的是，OpenAI同Google冇加入 。
• 快速增長： 一星期內，聯盟擴大至超過120個成員組織 。
• 主要開放源碼貢獻： Nvidia開源咗佢嘅**NOOA（Nvidia Open Omniverse Agent）研究框架，放咗喺GitHub，方便測試、追蹤、審計同治理代理人行為 。聯盟仲提議咗SAFE（Shared AI Findings Exchange）**指引，透過Linux基金會推動透明漏洞披露同協調防禦 。
• 範圍： 工具涵蓋完整AI安全堆棧——身份同權限、代理人框架、運行時護欄、可觀察性、評估同事故應對 。

點解咁重要： OSAA代表業界集體認識到，冇單一供應商可以獨自保護自主代理人。聯盟專注開放模型同共享工具，係刻意對抗封閉、專有方法——賭博係更廣泛嘅社群參與安全工具建設，會跑贏攻擊者 。Nvidia表示：「開放模型民主化防禦能力，增加防禦者透明度，喺保護數據嘅同時實現網絡防禦，並以可自訂、本地化嘅控制補充前沿封閉模型」 。

總結：雙重趨勢

模式好清楚：同一批公司一方面推AI代理人入主動、自主嘅網絡防禦角色，另一方面亦同時競賽緊建設封鎖同治理結構，防止呢啲代理人變成下一代安全威脅。