White Circle：企業 AI 正需要一層即時監控與治理系統

人工智能正快速由實驗工具變成企業基礎設施。不過，當 AI 真正被部署到產品與內部系統後，企業會面對一個新問題：如何在 AI 運作期間即時監控與控制模型行為。

巴黎 AI 新創 White Circle 就是針對這個缺口而生。公司的平台被定位為 AI 應用程式的 runtime 控制層（control layer）——即是在模型與應用之間加入一層監控與安全機制，在系統運行時即時檢查 AI 的輸入與輸出。公司最近完成 1,100 萬美元種子輪融資，由多位 AI 業界重量級人物投資，準備擴大產品與全球部署。

White Circle 的核心概念：AI 的「控制層」

White Circle 的平台會放在 用戶／應用程式與 AI 模型之間。每一次請求與回應都會被即時分析，而不是只在部署前做測試或偶爾做審核。

透過這層控制架構，企業可以在同一個平台做到：

• 監控 AI 的輸入與輸出
• 偵測錯誤或高風險回應
• 執行安全與合規政策
• 追蹤模型在生產環境中的表現

公司將這套系統形容為一個可以 持續測試、保護、監控並優化 AI 的平台，讓 AI 治理變成日常營運的一部分，而不只是部署前的檢查流程。

平台主要偵測的 AI 風險

隨著生成式 AI 被大量整合到產品與服務中，一些問題開始變得普遍。White Circle 的設計就是為了在 即時運行環境中發現並處理這些風險。

AI 幻覺（Hallucinations）

大型語言模型有時會給出聽起來很有信心、但實際上錯誤的答案。White Circle 會分析模型輸出，偵測可疑或矛盾內容，在回應送到用戶之前就發出警告或攔截。

提示注入與越獄攻擊

攻擊者可能透過特殊提示（prompt）誘導 AI 忽略安全規則，例如要求模型透露敏感資訊。平台會監控提示與回應，識別這些攻擊並自動阻擋。

模型漂移（Model Drift）

隨時間推移，AI 模型的行為可能因為新資料、整合工具或用戶行為改變而產生偏移。持續監控可以幫助企業及早發現這些變化並調整系統。

敏感資料外洩

生成式 AI 有機會在回應中意外洩露公司機密或個人資料。White Circle 會掃描互動內容，以防止機密資訊透過模型被曝光。

快速 AI 開發帶來的新風險

近年 AI 開發節奏非常快，許多團隊在實驗和部署之間的時間越來越短，甚至大量使用 AI 協助寫程式。這種快速迭代模式容易在監控與治理還未成熟時就把 AI 推上線，而 White Circle 的 runtime 控制層正是針對這種情境設計。

創辦人的「通用越獄」事件

White Circle 由工程師 Denis Shilov 創立。他在 2024 年曾因一個研究示範而在 AI 圈爆紅：只用一段提示就能繞過多個主流 AI 模型的安全機制。

這個技巧被稱為 「universal jailbreak（通用越獄）」。Shilov 的方法是重新定義模型角色，例如讓 AI 不再把自己視為有安全限制的聊天機器人，而是像 API 一樣只負責回應請求。結果多個模型在這種設定下都會忽略原本的安全規則。

這個示範凸顯了一個重要問題：單靠模型本身的安全機制並不足夠。企業可能需要額外的監控與政策層，才能在實際部署時維持安全。

1,100 萬美元種子輪：投資人名單星光熠熠

White Circle 最近完成 1,100 萬美元種子輪融資，投資人幾乎涵蓋整個 AI 生態系的核心人物。

投資者包括：

• Romain Huet（OpenAI）
• Dirk Kingma（Anthropic，前 OpenAI）
• Guillaume Lample（Mistral）
• Thomas Wolf（Hugging Face）
• Olivier Pomel（Datadog）
• François Chollet（Keras）
• Mehdi Ghissassi（前 DeepMind）
• Paige Bailey（DeepMind）
• David Cramer（Sentry）

這份名單顯示 AI 業界開始高度重視 AI 監控與治理基礎設施。

資金將如何使用

White Circle 表示，新資金將主要投入三個方向：

• 加快 AI 監控與治理平台的產品開發
• 在 美國、英國與歐洲 擴大工程與營運團隊
• 推動全球企業客戶與部署規模成長

據報導，平台目前已處理 超過 10 億次 API 請求，顯示已有企業在大規模 AI 應用中使用這類監控工具。

一個正在形成的新 AI 基礎層

隨著生成式 AI 被整合到客服、軟件開發、金融服務與企業內部流程，企業面對的問題已經不只是「如何建立模型」，而是 如何安全地管理它們。

像 White Circle 這類公司正嘗試建立 AI 技術棧中的新一層：讓企業能夠在模型上線後 持續觀察、治理與保護 AI 系統。透過即時監控每一次互動，這類平台希望降低幻覺、提示攻擊與資料外洩等風險，同時讓 AI 在大規模應用中保持可靠。