White Circleが目指す「AIの制御レイヤー」：企業AIをリアルタイムで守る新しいインフラ

White Circleが対処しようとしているAIリスク

生成AIを急速に導入する企業が増える中で、いくつかの典型的な問題が顕在化しています。White Circleはこうした問題をリアルタイムで検知・防止することを目標としています。

ハルシネーション（誤情報生成）

大規模言語モデルは、もっともらしいが誤った回答を生成することがあります。White Circleは出力を分析し、矛盾や疑わしい回答を検出してユーザーに届く前に警告またはブロックできます。

プロンプトインジェクションとジェイルブレイク

攻撃者は特殊なプロンプトを使い、AIの安全ルールを回避したり機密情報を引き出したりする場合があります。プラットフォームはプロンプトと出力の両方を監視し、こうした攻撃を検知して遮断します。

モデルドリフト

時間の経過とともに、入力データやユーザー行動の変化によってAIモデルの挙動が変化することがあります。継続的な監視により、こうした予期しない挙動の変化を検知できます。

機密データの漏えい

生成AIは、プロンプトや外部データ連携を通じて機密情報を誤って出力するリスクがあります。White CircleはAIのやり取りをスキャンし、機密データの漏えいを検知・防止する機能を提供します。

急速なAI開発（いわゆる「Vibe Coding」）によるリスク

AI支援コーディングや高速なプロトタイピングにより、十分な監視体制がないままAI機能が本番環境に投入されるケースも増えています。White Circleは、こうした環境での運用レベルの安全レイヤーとして導入されることを想定しています。

創業者が注目された「ユニバーサル・ジェイルブレイク」

White Circleの創業者はエンジニアの デニス・シロフ（Denis Shilov） です。

彼は2024年、単一のプロンプトで複数の主要AIモデルの安全フィルターを回避できることを実証し、大きな注目を集めました。

この手法は「ユニバーサル・ジェイルブレイク」と呼ばれ、AIに「安全ルールを持つチャットボットではなく、APIエンドポイントとして振る舞うよう指示する」ことでガードレールを回避するものでした。

この実験は、モデル内部の安全対策だけでは不十分な場合があることを示し、外部の監視・制御レイヤーの必要性を浮き彫りにしました。

1100万ドルのシード資金を調達

White Circleは最近、AI業界の著名人物から1100万ドルのシード資金を調達しました。

主な投資家には次の人物が含まれます。

• Romain Huet（OpenAI）
• Dirk Kingma（Anthropic、元OpenAI）
• Guillaume Lample（Mistral）
• Thomas Wolf（Hugging Face）
• Olivier Pomel（Datadog）
• François Chollet（Kerasの開発者）
• Mehdi Ghissassi（元DeepMind）
• Paige Bailey（DeepMind）
• David Cramer（Sentry）

AIの基盤技術や開発ツールを牽引してきた人物が参加していることから、AIの安全性と監視インフラへの関心の高まりがうかがえます。

調達資金の使い道

今回の資金は主に次の用途に使われる予定です。

• AI監視プラットフォームの開発加速
• 米国・英国・欧州でのエンジニアリングおよび運用チーム拡大
• グローバル顧客基盤の拡大と企業導入の促進

報道によると、同社のプラットフォームはすでに10億件以上のAPIリクエストを処理しており、AIを大規模に運用する企業での利用が始まっているとされています。

AI時代に必要とされる「運用レイヤー」

生成AIが顧客サポート、ソフトウェア開発、金融サービス、社内業務の自動化などに組み込まれるにつれ、焦点は「モデルを作ること」から**「安全に運用すること」**へと移っています。

White Circleのような企業は、この新しい課題に対してAIスタックの不足していたレイヤーを提供しようとしています。

リアルタイムでAIの挙動を観測し、リスクを検出して制御する仕組みは、今後AIが企業の基盤システムになるほど重要になる可能性があります。