答案已发布6个月前Last edited 5个月前23 来源

Giskard Guards：为企业AI智能体加上一层实时安全与治理防护

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。传统AI内容过滤只检查提示或输出，但现代智能体会调用工具、访问数据并执行多步骤任务，带来了提示注入、幻觉行为和数据泄露等新风险。

发布者使用 GPT-5.5 编辑图片由 GPT Image 2 生成

使用 Studio Global AI 搜索并核查事实浏览更多热门页面

研究答案

要点

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。
传统AI内容过滤只检查提示或输出，但现代智能体会调用工具、访问数据并执行多步骤任务，带来了提示注入、幻觉行为和数据泄露等新风险。
通过多层检测、实时策略执行以及与欧盟《AI法案》一致的治理机制，Giskard希望帮助银行、保险和医疗等行业安全部署AI智能体。

Illustration representing AI agent security and governance controls in enterprise systems — How is the French startup Giskard addressing the growing security and governance risks of enterprise AI agents with its Giskard Guards platfEnterprise AI agents introduce new security and governance challenges as they interact with tools, data, and automated workflows.
AI 提示
Create a landscape editorial hero image for this Studio Global article: How is the French startup Giskard addressing the growing security and governance risks of enterprise AI agents with its Giskard Guards platf. Article summary: Giskard is positioning Giskard Guards as a runtime security and governance layer for enterprise AI agents: instead of only filtering a user prompt or final model output, it evaluates the agent’s broader execution context. Topic tags: general, academic, general web, government. Reference image context from search candidates: Reference image 1: visual subject "The scale of the problem AI agents are proliferating across enterprise environments faster than security teams can track 10,000+ Apps on average in a single enterprise environment" source context "Enterprise AI Agent Security and Governance: Managing Risks in 2026 | PPTX" Reference image 2: visual subject "
openai.com

企业AI智能体正迅速从实验项目走向真实业务流程。它们能够检索文档、调用API、执行多步骤任务，并直接与企业系统互动。但这种能力扩展也带来了新的安全问题——例如提示注入（prompt injection）、幻觉导致的错误操作、敏感数据泄露，以及对外部工具的不安全调用。

法国AI安全初创公司 Giskard 推出了 Giskard Guards 平台，试图填补这一安全空白。与传统AI内容过滤不同，该平台被设计为一层运行时安全与治理基础设施，专门保护企业级AI智能体在真实工作流程中的行为。

企业AI智能体的安全缺口

早期AI安全机制主要关注过滤用户输入和模型输出。当语言模型主要用于聊天或生成文本时，这种方法基本可行。

但如今的企业AI智能体已经发生了变化，它们可以：

检索内部数据库或外部文档
调用API和自动化工具
执行多步骤推理与任务流程
与企业运营系统进行交互

因此，风险的重点已经从“生成不良内容”转变为 “执行不良行为”。

智能体可能会幻觉出错误信息、遵循被嵌入在检索文档中的恶意指令、泄露敏感数据，或通过连接的工具执行未经授权的操作。如果这些问题发生在真实业务流程中，就可能影响企业运营或导致数据泄露。

传统的AI安全措施——例如关键词过滤或简单分类器——在这种环境下往往表现不足。这些系统通常缺乏业务上下文，可能会误拦截正常请求，同时又无法识别跨多个步骤的攻击，例如复杂的提示注入或工具链利用。

Studio Global AI

继续你的研究

此页面包含一个有来源支持的答案，您可以在 Studio Global 内继续。

使用 Studio Global AI 搜索并核查事实

人们还问

“Giskard Guards：为企业AI智能体加上一层实时安全与治理防护”的简短答案是什么？

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。

首先要验证的关键点是什么？

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。传统AI内容过滤只检查提示或输出，但现代智能体会调用工具、访问数据并执行多步骤任务，带来了提示注入、幻觉行为和数据泄露等新风险。

接下来在实践中我应该做什么？

通过多层检测、实时策略执行以及与欧盟《AI法案》一致的治理机制，Giskard希望帮助银行、保险和医疗等行业安全部署AI智能体。

来源

答案已发布6个月前Last edited 5个月前23 来源

Giskard Guards：为企业AI智能体加上一层实时安全与治理防护

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。传统AI内容过滤只检查提示或输出，但现代智能体会调用工具、访问数据并执行多步骤任务，带来了提示注入、幻觉行为和数据泄露等新风险。

发布者使用 GPT-5.5 编辑图片由 GPT Image 2 生成

使用 Studio Global AI 搜索并核查事实浏览更多热门页面

研究答案

要点

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。
传统AI内容过滤只检查提示或输出，但现代智能体会调用工具、访问数据并执行多步骤任务，带来了提示注入、幻觉行为和数据泄露等新风险。
通过多层检测、实时策略执行以及与欧盟《AI法案》一致的治理机制，Giskard希望帮助银行、保险和医疗等行业安全部署AI智能体。

Illustration representing AI agent security and governance controls in enterprise systems — How is the French startup Giskard addressing the growing security and governance risks of enterprise AI agents with its Giskard Guards platfEnterprise AI agents introduce new security and governance challenges as they interact with tools, data, and automated workflows.
AI 提示
Create a landscape editorial hero image for this Studio Global article: How is the French startup Giskard addressing the growing security and governance risks of enterprise AI agents with its Giskard Guards platf. Article summary: Giskard is positioning Giskard Guards as a runtime security and governance layer for enterprise AI agents: instead of only filtering a user prompt or final model output, it evaluates the agent’s broader execution context. Topic tags: general, academic, general web, government. Reference image context from search candidates: Reference image 1: visual subject "The scale of the problem AI agents are proliferating across enterprise environments faster than security teams can track 10,000+ Apps on average in a single enterprise environment" source context "Enterprise AI Agent Security and Governance: Managing Risks in 2026 | PPTX" Reference image 2: visual subject "
openai.com

企业AI智能体正迅速从实验项目走向真实业务流程。它们能够检索文档、调用API、执行多步骤任务，并直接与企业系统互动。但这种能力扩展也带来了新的安全问题——例如提示注入（prompt injection）、幻觉导致的错误操作、敏感数据泄露，以及对外部工具的不安全调用。

法国AI安全初创公司 Giskard 推出了 Giskard Guards 平台，试图填补这一安全空白。与传统AI内容过滤不同，该平台被设计为一层运行时安全与治理基础设施，专门保护企业级AI智能体在真实工作流程中的行为。

企业AI智能体的安全缺口

早期AI安全机制主要关注过滤用户输入和模型输出。当语言模型主要用于聊天或生成文本时，这种方法基本可行。

但如今的企业AI智能体已经发生了变化，它们可以：

检索内部数据库或外部文档
调用API和自动化工具
执行多步骤推理与任务流程
与企业运营系统进行交互

因此，风险的重点已经从“生成不良内容”转变为 “执行不良行为”。

智能体可能会幻觉出错误信息、遵循被嵌入在检索文档中的恶意指令、泄露敏感数据，或通过连接的工具执行未经授权的操作。如果这些问题发生在真实业务流程中，就可能影响企业运营或导致数据泄露。

传统的AI安全措施——例如关键词过滤或简单分类器——在这种环境下往往表现不足。这些系统通常缺乏业务上下文，可能会误拦截正常请求，同时又无法识别跨多个步骤的攻击，例如复杂的提示注入或工具链利用。

Studio Global AI

继续你的研究

此页面包含一个有来源支持的答案，您可以在 Studio Global 内继续。

使用 Studio Global AI 搜索并核查事实

人们还问

“Giskard Guards：为企业AI智能体加上一层实时安全与治理防护”的简短答案是什么？

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。

首先要验证的关键点是什么？

Giskard Guards是一种面向企业AI智能体的运行时安全与治理平台，可监控智能体完整执行链并通过“政策即代码”执行组织规则。传统AI内容过滤只检查提示或输出，但现代智能体会调用工具、访问数据并执行多步骤任务，带来了提示注入、幻觉行为和数据泄露等新风险。

接下来在实践中我应该做什么？

通过多层检测、实时策略执行以及与欧盟《AI法案》一致的治理机制，Giskard希望帮助银行、保险和医疗等行业安全部署AI智能体。

来源