AI 代理进入自主攻防时代：微软与英伟达如何用“笼子”锁住风险

这些规则如何应对安全风险

该框架覆盖了完整的攻击链条——供应链投毒（通过白名单和 SBOM）、权限提升（通过 MXC 隔离）、数据外泄（通过运行时护栏和内容过滤）以及未授权工具使用（通过权限控制和人机协同检查）。微软在对代理系统进行一年红队测试后的故障模式分类中补充了零信任代理间架构：对于高风险场景，代理身份应通过加密方式建立，而非仅凭工作流中的位置来假定。

更广泛的行业转向：主动防御 + 更严管控

2026 年中期的两项重大举措表明，行业正转向在网络安全中同时将 AI 代理用于攻击和防守，同时施加更严格的安全护栏。

微软的 Project Perception

2026 年 7 月 27 日公布，Project Perception 是一个代理安全系统，超越了传统告警生成，实现持续自动化行动。微软将其描述为一个“持续学习的防御系统”，能够“以机器速度进行推理、优先级排序和行动，同时将人工牢牢控制在决策环中”。

• 系统部署三种专门的代理——红色代理（像攻击者一样探测）、蓝色代理（调查和分类威胁）和绿色代理（修复和加固）——它们在完整的“发现-研判-修复”周期中协同工作。代理通过编排化的工作流共享情报，使得“一个发现即刻变成一个修复，主动完成，而无需在每一步进行交接”。
• 该平台基于微软首个自研网络安全模型 MAI-Cyber-1-Flash，微软宣称该模型“以领先模型 50% 的成本实现了世界级性能”。
• 据悉，微软已将自身安全运营的很大一部分转移到该 AI 模型上，计算成本降低了约 50%。
• Project Perception 于 2026 年 8 月 3 日进入公开预览，集成在 Microsoft Defender 中交付。高影响操作仍需人工批准。

为什么重要： 这是一个 AI 代理被赋予主动、自主网络防御角色的具体例子——探测系统、修补漏洞、响应威胁，无需等待人工指令。更严格的控制则来自上面提到的隔离规则：Project Perception 代理仍然在 MXC 容器内运行，受基于策略的护栏约束，并具备可观测性和人工监督。

英伟达的开放安全 AI 联盟（OSAA）

2026 年 7 月 27 日——就在一起引发广泛关注的 Hugging Face 安全事件数天后——OSAA 成立，这是一个旨在为 AI 代理建设开源安全工具的行业联盟。

• 创始成员（37 家组织）： 微软、IBM、思科、CrowdStrike、Cloudflare、戴尔、慧与、Linux 基金会、Hugging Face、Adobe、Capital One、Salesforce、SAP、SpaceXAI 等。值得注意的是，OpenAI 和谷歌未加入。
• 迅速壮大： 一周内，联盟成员激增至 120 多家组织。
• 关键开源贡献： 英伟达开源了其 NOOA（Nvidia Open Omniverse Agent） 研究框架，已在 GitHub 上提供，用于测试、追踪、审计和治理代理行为。联盟还通过 Linux 基金会提出了 指南，用于明确的漏洞披露和协同防御。
• 范围： 工具覆盖完整 AI 安全栈——身份与权限、代理框架、运行时护栏、可观测性、评估和事件响应。

为什么重要： OSAA 代表了行业的集体共识：没有任何单一厂商能够独自保障自主代理的安全。联盟对开放模型和共享工具的聚焦，是对封闭专有方法的有意制衡——其核心假设是，更广泛的社区化安全工具将比攻击者跑得更快。英伟达表示：“开放模型使防御能力民主化，增加了防御者的透明度，在保护数据的同时实现网络防御，并以可定制、本地化的控制能力补充前沿封闭模型”。

总结：双轨趋势

模式清晰可见：推动 AI 代理进入主动、自主网络防御角色的同一批公司，也在争相建造防止这些代理本身成为新一代安全威胁的隔离与治理结构。