White Circle：企业AI需要一个实时“控制层”

随着人工智能从实验工具走向企业核心基础设施，企业面临一个新的现实问题：AI模型上线之后，该如何持续监控和控制它的行为？

巴黎初创公司 White Circle 正试图解决这一问题。它打造了一套可运行在生产环境中的 AI实时治理平台，通过在应用程序与AI模型之间加入一层“控制层”，实时监控模型行为，并在出现风险时进行拦截或纠正。该公司最近完成 1100万美元（约合人民币约8000万元）的种子轮融资，由多位AI行业知名人士参与投资，以推动产品和全球扩张。

White Circle 的核心产品：AI运行时控制层

White Circle 提供的是一套统一平台，部署在用户或应用与AI模型之间。系统会在模型运行时持续检查 每一次请求和每一次响应，并按照企业设定的安全策略进行实时检测和控制。

与传统只在部署前做测试或审计的方式不同，这种方法让企业可以在生产环境中持续治理AI系统。平台可以帮助企业：

• 监控AI输入和输出
• 识别风险或错误回答
• 执行安全与合规策略
• 跟踪模型在真实业务中的表现

公司将这一平台描述为一个能够 持续测试、保护、监控并优化AI系统 的基础设施层，把AI治理从一次性评估变成日常运营能力。

它重点解决哪些AI风险

随着生成式AI快速进入企业产品环境，多个常见问题开始频繁出现。White Circle 的系统主要针对以下几类风险进行实时检测与缓解。

幻觉（Hallucinations）

大型语言模型有时会生成看似自信但实际上错误的信息。平台会分析输出内容，识别可疑或不一致的答案，并在其到达用户或业务系统前发出警告或进行拦截。

提示注入与越狱攻击

攻击者可能通过精心构造的提示词绕过模型安全规则，诱导模型泄露敏感信息或生成危险内容。White Circle 会实时监控提示词和模型回复，检测并阻止此类攻击。

模型漂移（Model Drift）

随着时间推移、数据变化或新功能接入，AI模型的行为可能逐渐改变。持续监控可以帮助企业及时发现这些异常变化并进行调查。

敏感数据泄露

在某些情况下，AI可能通过提示、记忆系统或外部知识库无意中泄露企业内部数据。White Circle 会扫描交互内容，以识别并阻止潜在的数据泄露。

快速AI开发带来的新风险

当前AI开发节奏非常快，例如AI辅助编程或快速原型开发，团队可能在监控体系不完善的情况下就将AI功能上线。White Circle 将自己的平台定位为这种环境下的 安全运行时防护层。

创始人的“通用越狱”实验为何引发关注

White Circle 由工程师 Denis Shilov 创立。他在2024年因一次AI安全实验而广泛传播：只用一个可重复使用的提示，就成功绕过多个主流AI模型的安全限制。

这种技术被研究人员称为 “通用越狱（universal jailbreak）”。

其核心思路是改变模型的角色设定，让AI把自己当作一个简单的API接口执行请求，而不是一个需要执行安全审查的聊天助手。结果是多个模型都可能在这种情况下绕过原有安全机制。

这一案例凸显了一个关键问题：仅依赖模型内部的安全机制可能并不足够。在真实产品中，还需要独立的监控和治理层来进行额外保护。

1100万美元种子轮融资：投资人阵容豪华

White Circle 最近宣布完成 1100万美元种子轮融资，投资人名单几乎覆盖了当前AI生态的重要技术领导者。

参与投资的知名人士包括：

• Romain Huet（OpenAI）
• Dirk Kingma（Anthropic，曾任 OpenAI）
• Guillaume Lample（Mistral）
• Thomas Wolf（Hugging Face）
• Olivier Pomel（Datadog）
• François Chollet（Keras 作者）
• Mehdi Ghissassi（前 DeepMind）
• Paige Bailey（DeepMind）
• David Cramer（Sentry）

这些投资者来自AI模型、开发工具、监控平台等多个关键领域，也反映出行业对 AI安全与治理基础设施 的重视程度正在快速上升。

融资资金将如何使用

White Circle 表示，新资金将主要用于三个方向：

• 加速AI监控平台的产品研发
• 在 美国、英国和欧洲 扩大工程与运营团队
• 拓展全球客户和企业级部署规模

据报道，该平台已经处理 超过10亿次API请求，显示出在大规模AI部署场景中的早期应用潜力。

更大的行业趋势：AI需要“运行时治理”

随着生成式AI被嵌入客服系统、金融应用、开发工具和企业自动化流程，挑战已经从“如何训练模型”转向 “如何在生产环境中安全运行模型”。

像 White Circle 这样的公司正在尝试补上AI技术栈中的一个关键空缺：为AI系统提供可观测、可治理、可控制的运行层。通过实时监控每一次AI交互，这类平台希望减少幻觉、提示攻击和数据泄露风险，让企业能够更可靠地在大规模业务中使用AI。