White Circle: новый «слой управления» для корпоративного искусственного интеллекта

Это позволяет компаниям централизованно:

• отслеживать входные и выходные данные моделей
• обнаруживать рискованные или ошибочные ответы
• применять политики безопасности и соответствия требованиям
• анализировать производительность и стабильность моделей

В компании описывают платформу как инструмент, который позволяет тестировать, защищать, наблюдать и улучшать AI‑системы непрерывно, превращая управление ИИ в постоянный операционный процесс, а не разовую проверку перед запуском.

Какие риски пытается предотвратить система

По мере того как генеративный ИИ быстро внедряется в продукты и сервисы, появляется целый набор новых технологических рисков. White Circle сосредоточен на их выявлении прямо во время работы системы.

Галлюцинации моделей

Языковые модели могут выдавать уверенные, но неверные ответы. Платформа анализирует ответы и отмечает подозрительные или противоречивые результаты до того, как они попадут к пользователям или в другие системы.

Атаки prompt‑injection и jailbreak

Злоумышленники могут манипулировать подсказками (prompt), чтобы обойти встроенные ограничения модели. Система отслеживает подобные попытки и может автоматически блокировать их.

Дрейф модели

Со временем поведение модели может изменяться из‑за новых данных, интеграций или изменения поведения пользователей. Непрерывный мониторинг помогает обнаружить такие отклонения и быстро их расследовать.

Утечки конфиденциальных данных

Интеграция моделей с внутренними базами знаний или памятью может привести к непреднамеренному раскрытию чувствительной информации. White Circle анализирует взаимодействия и пытается предотвратить подобные утечки.

Риски быстрой разработки AI‑функций

Сегодня команды часто внедряют AI‑функции очень быстро — иногда используя автоматизированное программирование или AI‑ассистентов. В таких условиях процессы контроля могут не успевать за скоростью разработки. White Circle позиционирует свой продукт как защитный слой для среды, где AI развивается быстрее, чем инфраструктура безопасности.

История основателя и «универсальный jailbreak»

Компанию основал инженер Денис Шилов. Он стал широко известен в 2024 году после демонстрации техники, позволяющей обойти защитные фильтры многих крупных моделей одним и тем же запросом.

Метод, получивший название «универсальный jailbreak», работал за счёт изменения роли модели: вместо чат‑бота с правилами безопасности её просили действовать как простой API‑интерфейс, который автоматически возвращает ответы на запросы. В таком режиме модель переставала применять часть ограничений.

Этот эксперимент показал важную проблему индустрии: встроенные механизмы безопасности самих моделей могут быть недостаточны, если отсутствует дополнительный слой контроля на уровне приложения.

Раунд инвестиций на $11 миллионов

White Circle недавно привлёк $11 млн посевного финансирования от группы известных специалистов и предпринимателей из AI‑индустрии.

Среди инвесторов:

• Ромен Юэ (OpenAI)
• Дирк Кингма (Anthropic, ранее OpenAI)
• Гийом Лампль (Mistral)
• Томас Вольф (Hugging Face)
• Оливье Помель (Datadog)
• Франсуа Шолле (создатель Keras)
• Мехди Гиссасси (бывший руководитель DeepMind)
• Пейдж Бейли (DeepMind)
• Дэвид Крамер (Sentry)

Присутствие таких инвесторов отражает растущий интерес к инфраструктуре безопасности и наблюдаемости AI‑систем, поскольку компании всё активнее внедряют генеративный ИИ.

На что пойдут инвестиции

Полученные средства компания планирует направить на несколько ключевых направлений:

• ускорение разработки платформы мониторинга и контроля ИИ
• расширение инженерных и операционных команд
• рост присутствия на рынках США, Великобритании и Европы

По сообщениям, платформа уже обработала более одного миллиарда API‑запросов, что свидетельствует о раннем интересе со стороны компаний, активно внедряющих AI‑решения.

Почему появляется новый слой в AI‑стеке

По мере того как генеративный ИИ внедряется в клиентские сервисы, финансовые приложения, инструменты разработки и внутреннюю автоматизацию, ключевой задачей становится не только создание моделей, но и управление ими в реальной эксплуатации.

Стартапы вроде White Circle пытаются закрыть этот пробел — создать инфраструктуру, которая делает AI‑системы наблюдаемыми, управляемыми и безопасными после их запуска. Такой «слой контроля» позволяет отслеживать каждое взаимодействие модели и снижать риски галлюцинаций, атак и утечек данных при масштабировании искусственного интеллекта в бизнесе.