White Circle：企業 AI 正需要一層即時監控與治理系統

White Circle 的核心概念：AI 的「控制層」

White Circle 的平台會放在 用戶／應用程式與 AI 模型之間。每一次請求與回應都會被即時分析，而不是只在部署前做測試或偶爾做審核。

透過這層控制架構，企業可以在同一個平台做到：

• 監控 AI 的輸入與輸出
• 偵測錯誤或高風險回應
• 執行安全與合規政策
• 追蹤模型在生產環境中的表現

公司將這套系統形容為一個可以 持續測試、保護、監控並優化 AI 的平台，讓 AI 治理變成日常營運的一部分，而不只是部署前的檢查流程。

平台主要偵測的 AI 風險

隨著生成式 AI 被大量整合到產品與服務中，一些問題開始變得普遍。White Circle 的設計就是為了在 即時運行環境中發現並處理這些風險。

AI 幻覺（Hallucinations）

大型語言模型有時會給出聽起來很有信心、但實際上錯誤的答案。White Circle 會分析模型輸出，偵測可疑或矛盾內容，在回應送到用戶之前就發出警告或攔截。

提示注入與越獄攻擊

攻擊者可能透過特殊提示（prompt）誘導 AI 忽略安全規則，例如要求模型透露敏感資訊。平台會監控提示與回應，識別這些攻擊並自動阻擋。

模型漂移（Model Drift）

隨時間推移，AI 模型的行為可能因為新資料、整合工具或用戶行為改變而產生偏移。持續監控可以幫助企業及早發現這些變化並調整系統。

敏感資料外洩

生成式 AI 有機會在回應中意外洩露公司機密或個人資料。White Circle 會掃描互動內容，以防止機密資訊透過模型被曝光。

快速 AI 開發帶來的新風險

近年 AI 開發節奏非常快，許多團隊在實驗和部署之間的時間越來越短，甚至大量使用 AI 協助寫程式。這種快速迭代模式容易在監控與治理還未成熟時就把 AI 推上線，而 White Circle 的 runtime 控制層正是針對這種情境設計。

創辦人的「通用越獄」事件

White Circle 由工程師 Denis Shilov 創立。他在 2024 年曾因一個研究示範而在 AI 圈爆紅：只用一段提示就能繞過多個主流 AI 模型的安全機制。

這個技巧被稱為 「universal jailbreak（通用越獄）」。Shilov 的方法是重新定義模型角色，例如讓 AI 不再把自己視為有安全限制的聊天機器人，而是像 API 一樣只負責回應請求。結果多個模型在這種設定下都會忽略原本的安全規則。

這個示範凸顯了一個重要問題：單靠模型本身的安全機制並不足夠。企業可能需要額外的監控與政策層，才能在實際部署時維持安全。

1,100 萬美元種子輪：投資人名單星光熠熠

White Circle 最近完成 1,100 萬美元種子輪融資，投資人幾乎涵蓋整個 AI 生態系的核心人物。

投資者包括：

• Romain Huet（OpenAI）
• Dirk Kingma（Anthropic，前 OpenAI）
• Guillaume Lample（Mistral）
• Thomas Wolf（Hugging Face）
• Olivier Pomel（Datadog）
• François Chollet（Keras）
• Mehdi Ghissassi（前 DeepMind）
• Paige Bailey（DeepMind）
• David Cramer（Sentry）

這份名單顯示 AI 業界開始高度重視 AI 監控與治理基礎設施。

資金將如何使用

White Circle 表示，新資金將主要投入三個方向：

• 加快 AI 監控與治理平台的產品開發
• 在 美國、英國與歐洲 擴大工程與營運團隊
• 推動全球企業客戶與部署規模成長

據報導，平台目前已處理 超過 10 億次 API 請求，顯示已有企業在大規模 AI 應用中使用這類監控工具。

一個正在形成的新 AI 基礎層

隨著生成式 AI 被整合到客服、軟件開發、金融服務與企業內部流程，企業面對的問題已經不只是「如何建立模型」，而是 如何安全地管理它們。

像 White Circle 這類公司正嘗試建立 AI 技術棧中的新一層：讓企業能夠在模型上線後 持續觀察、治理與保護 AI 系統。透過即時監控每一次互動，這類平台希望降低幻覺、提示攻擊與資料外洩等風險，同時讓 AI 在大規模應用中保持可靠。