White Circle 與即時 AI 治理的崛起

它試圖解決哪些 AI 風險？

隨著企業快速推出生成式 AI 功能，幾種常見問題也開始頻繁出現。White Circle 的核心設計就是在系統運作時即時偵測並降低這些風險。

模型幻覺（Hallucinations）

大型語言模型可能會生成看似合理但實際錯誤的答案。White Circle 會分析輸出內容，標記可疑或不一致的回應，避免錯誤資訊直接傳遞給使用者或下游系統。

提示注入與越獄攻擊（Prompt Injection / Jailbreak）

攻擊者可能透過精心設計的提示來繞過安全規則，迫使模型提供被禁止的資訊。平台會監控提示與回應內容，並自動偵測與阻擋這類攻擊。

模型漂移（Model Drift）

隨著時間推移，模型行為可能因輸入資料改變、整合新系統或使用方式改變而產生偏移。持續監控可以讓企業更早發現這些變化並進行調整。

敏感資料外洩

生成式 AI 可能因提示內容、記憶系統或整合的資料來源而不小心洩露機密資訊。White Circle 會掃描互動內容，偵測並阻止潛在的資料外洩。

AI 開發速度過快帶來的風險

近年出現像 AI 輔助程式開發或所謂「vibe coding」等趨勢，讓團隊能更快推出 AI 功能。但快速開發往往伴隨著監控與治理不足的問題。White Circle 的定位，就是為這些快速實驗的環境提供一層安全防護。

創辦人曾用一個提示「破解」多個 AI 模型

White Circle 的創辦人是工程師 Denis Shilov。他在 2024 年因展示一個能繞過多個 AI 模型安全限制的提示而在技術圈爆紅。

這個技巧被稱為 「通用越獄（universal jailbreak）」。Shilov 的方法其實很簡單：他要求模型不要把自己當作有安全規則的聊天機器人，而是把自己視為一個只負責回應請求的 API 端點。

透過重新定義模型的角色，系統可能忽略原本的安全機制，從而生成本應被拒絕的內容。

這次示範突顯了一個關鍵問題：僅依靠模型內建的安全機制並不一定足夠。在實際產品中，企業可能需要額外的外部監控與政策層來保護系統。

1100 萬美元種子輪：AI 業界大咖參與

White Circle 最近完成 1100 萬美元種子輪融資，投資者多來自 AI 產業的重要人物。

參與投資的包括：

• Romain Huet（OpenAI）
• Dirk Kingma（Anthropic，曾任 OpenAI）
• Guillaume Lample（Mistral）
• Thomas Wolf（Hugging Face）
• Olivier Pomel（Datadog）
• François Chollet（Keras 創建者）
• Mehdi Ghissassi（前 DeepMind）
• Paige Bailey（DeepMind）
• David Cramer（Sentry）

這樣的投資名單顯示，AI 安全、監控與治理基礎設施正成為整個產業越來越重視的領域。

新資金將如何使用？

White Circle 表示，這筆資金將主要用於三個方向：

• 加速 AI 監控與控制平台的產品開發
• 擴展工程與營運團隊，涵蓋 美國、英國與歐洲
• 擴大全球客戶與企業部署規模

報導指出，該平台目前已處理 超過 10 億次 API 請求，顯示已有企業在大規模 AI 應用中採用這項技術。

一個新興趨勢：AI 需要「運行時控制層」

隨著生成式 AI 被整合進客服、金融科技、開發工具與企業流程，挑戰已不只是建立模型，而是 如何在真實環境中安全地運作這些模型。

White Circle 代表的是 AI 技術棧中的一個新層級：

在模型部署之後，提供可觀察、可治理、可控管的運行時基礎設施。

透過即時監控每一次互動，這類平台希望減少幻覺、提示攻擊與資料外洩等風險，同時讓企業能更可靠地在大規模環境中運行 AI。