White Circle y el auge del control operativo de la inteligencia artificial

La inteligencia artificial está dejando de ser un experimento para convertirse en infraestructura central de muchas empresas. Pero cuando los modelos pasan del laboratorio a productos reales aparece un nuevo desafío: cómo supervisar y controlar el comportamiento de la IA mientras está funcionando en producción.

Ahí es donde entra White Circle, una startup de gobernanza de IA con sede en París que propone una solución poco habitual: una capa de control en tiempo real que se coloca entre las aplicaciones y los modelos de IA para vigilar cada interacción. La compañía anunció recientemente una ronda de financiación semilla de 11 millones de dólares, respaldada por figuras influyentes del ecosistema de inteligencia artificial.

Qué hace la plataforma de White Circle

El producto de White Circle funciona como una capa intermedia que analiza cada solicitud enviada al modelo y cada respuesta generada. En lugar de depender solo de pruebas previas al lanzamiento o auditorías ocasionales, el sistema supervisa el comportamiento de la IA continuamente mientras el producto está en funcionamiento.

Esto permite a las organizaciones:

• Monitorizar entradas y salidas de modelos de IA
• Detectar respuestas incorrectas o peligrosas
• Aplicar políticas de seguridad y cumplimiento
• Medir el rendimiento y la fiabilidad del modelo en producción

La empresa describe su plataforma como un sistema que permite probar, proteger, observar y mejorar los sistemas de IA de forma continua, convirtiendo la gobernanza de la IA en una capacidad operativa permanente en lugar de una evaluación puntual.

Riesgos de la IA que intenta detectar

Con el auge de la IA generativa en productos empresariales, han surgido varios problemas técnicos y de seguridad. White Circle se centra en monitorizar y mitigar estos riesgos en tiempo real.

Alucinaciones de los modelos

Los modelos de lenguaje pueden generar respuestas convincentes pero incorrectas. La plataforma analiza las respuestas y detecta inconsistencias o resultados sospechosos antes de que lleguen al usuario o a otros sistemas.

Ataques de prompt injection y jailbreak

Los atacantes pueden manipular instrucciones para que el modelo ignore sus propias reglas de seguridad o revele información restringida. White Circle monitoriza prompts y respuestas para detectar estos intentos y bloquearlos automáticamente.

Deriva del modelo (model drift)

Con el tiempo, el comportamiento de un modelo puede cambiar debido a nuevos datos, integraciones o patrones de uso. El monitoreo continuo permite detectar estos cambios inesperados y analizarlos.

Filtraciones de datos sensibles

Los sistemas de IA generativa pueden exponer accidentalmente información confidencial almacenada en bases de conocimiento, memoria de conversaciones o integraciones internas. La plataforma examina las interacciones para detectar y prevenir estos riesgos.

Riesgos del desarrollo acelerado de IA

Las tendencias actuales —como la experimentación rápida o el desarrollo asistido por IA— pueden llevar a lanzar funciones basadas en IA sin suficientes controles de seguridad. White Circle plantea su capa de control como una protección adicional en esos entornos de desarrollo acelerado.

El origen: un jailbreak que se volvió viral

La empresa fue fundada por el ingeniero Denis Shilov, quien ganó notoriedad en 2024 después de demostrar que un único prompt reutilizable podía eludir los filtros de seguridad de varios modelos de IA líderes.

Ese método, descrito como un “jailbreak universal”, funcionaba al pedir al modelo que dejara de comportarse como un chatbot con reglas de seguridad y actuara simplemente como una API que responde a cualquier solicitud. Al cambiar el marco de la tarea, el modelo podía generar respuestas que normalmente habría bloqueado.

La demostración puso de relieve un problema más amplio: confiar únicamente en las protecciones internas de los modelos puede no ser suficiente. Por eso están surgiendo herramientas externas que supervisan el comportamiento de la IA una vez desplegada en productos reales.

La ronda de financiación de 11 millones de dólares

White Circle cerró una ronda semilla de 11 millones de dólares con el respaldo de inversores muy conocidos dentro del ecosistema de inteligencia artificial e infraestructura tecnológica.

Entre los inversores destacan:

• Romain Huet (OpenAI)
• Dirk Kingma (Anthropic, anteriormente OpenAI)
• Guillaume Lample (Mistral)
• Thomas Wolf (Hugging Face)
• Olivier Pomel (Datadog)
• François Chollet (Keras)
• Mehdi Ghissassi (ex‑DeepMind)
• Paige Bailey (DeepMind)
• David Cramer (Sentry)

La presencia de estos perfiles refleja un consenso creciente en la industria: la seguridad, observabilidad y gobernanza de la IA se están convirtiendo en piezas clave del stack tecnológico empresarial.

En qué se utilizará el capital

La empresa planea usar la nueva financiación para impulsar tres áreas principales:

• Acelerar el desarrollo de su plataforma de monitorización y control de IA
• Ampliar los equipos de ingeniería y operaciones
• Expandir su presencia en Estados Unidos, Reino Unido y Europa

Según varios informes, la plataforma ya ha procesado más de mil millones de solicitudes API, lo que sugiere una adopción temprana entre empresas que operan sistemas de IA a gran escala.

Una nueva capa en la infraestructura de IA

A medida que la inteligencia artificial se integra en atención al cliente, desarrollo de software, finanzas y automatización interna, el reto ya no es solo construir modelos, sino gestionarlos de forma segura y fiable en producción.

Startups como White Circle están tratando de cubrir lo que muchos equipos consideran una pieza que faltaba en la pila tecnológica de la IA: herramientas que hagan que los sistemas sean observables, gobernables y seguros después de su despliegue. Al supervisar cada interacción en tiempo real, estas plataformas buscan reducir riesgos como alucinaciones, ataques de prompt y filtraciones de datos mientras las organizaciones escalan el uso de la IA.