White Circle et l’émergence d’une couche de contrôle pour l’IA en production

Concrètement, la plateforme permet aux organisations de :

• surveiller les entrées et sorties des modèles d’IA
• détecter les réponses risquées ou incorrectes
• appliquer des politiques de sécurité et de conformité
• suivre la performance et la fiabilité des modèles en production

L’entreprise décrit son produit comme une solution qui permet de tester, protéger, surveiller et améliorer en continu les systèmes d’IA, transformant la gouvernance de l’IA en une capacité opérationnelle permanente plutôt qu’un simple contrôle ponctuel.

Les risques que la plateforme tente de détecter

À mesure que les entreprises intègrent l’IA générative dans leurs services, plusieurs risques techniques deviennent récurrents. White Circle se concentre sur la détection et la prévention de ces problèmes en temps réel.

Hallucinations et réponses incorrectes

Les grands modèles de langage peuvent produire des réponses très convaincantes mais factuellement fausses. La plateforme analyse les sorties générées et signale les réponses suspectes ou incohérentes avant qu’elles n’atteignent les utilisateurs ou d’autres systèmes.

Attaques par prompt‑injection et jailbreaks

Certains utilisateurs malveillants tentent de manipuler les instructions données au modèle afin de contourner ses règles de sécurité ou d’obtenir des informations sensibles. White Circle surveille les prompts et les réponses pour détecter ces tentatives et les bloquer automatiquement.

Dérive du modèle (model drift)

Avec le temps, le comportement d’un modèle peut évoluer à cause de nouveaux types de données, d’intégrations logicielles ou de changements dans l’usage des utilisateurs. Une surveillance continue permet de repérer ces dérives et d’en analyser les causes.

Fuites de données sensibles

Les systèmes d’IA générative peuvent parfois révéler des informations confidentielles via des prompts, des mémoires conversationnelles ou des bases de connaissances intégrées. La plateforme analyse les interactions pour détecter et empêcher ce type de fuite.

Les risques liés au développement rapide de l’IA

Les cycles de développement deviennent de plus en plus rapides, notamment avec l’essor de l’IA dans la programmation et les prototypes rapides. Dans ces environnements où les fonctionnalités d’IA sont déployées très vite, les contrôles de sécurité et de supervision peuvent être insuffisants. White Circle se positionne comme une couche de sécurité au moment de l’exécution pour ces nouveaux flux de développement.

Un fondateur devenu viral après un « jailbreak universel »

White Circle a été fondée par l’ingénieur Denis Shilov. Il s’est fait connaître en 2024 après avoir montré qu’un seul prompt réutilisable pouvait contourner les filtres de sécurité de plusieurs grands modèles d’IA.

La technique, souvent décrite comme un « jailbreak universel », consistait à demander au modèle d’agir non plus comme un chatbot appliquant des règles de sécurité, mais comme une simple API répondant mécaniquement aux requêtes. Ce changement de rôle suffisait parfois à neutraliser certains garde‑fous.

Cette démonstration a mis en évidence un point important : les mécanismes de sécurité intégrés aux modèles ne suffisent pas toujours. Une couche de supervision externe peut offrir une protection supplémentaire lorsque l’IA est utilisée dans des produits réels.

Une levée de fonds de 11 millions de dollars

La startup a récemment annoncé une levée de fonds de 11 millions de dollars auprès de plusieurs figures importantes de l’écosystème IA et des infrastructures logicielles.

Parmi les investisseurs figurent notamment :

• Romain Huet (OpenAI)
• Dirk Kingma (Anthropic, anciennement OpenAI)
• Guillaume Lample (Mistral)
• Thomas Wolf (Hugging Face)
• Olivier Pomel (Datadog)
• François Chollet (Keras)
• Mehdi Ghissassi (ex‑DeepMind)
• Paige Bailey (DeepMind)
• David Cramer (Sentry)

La présence de ces investisseurs illustre l’intérêt croissant pour les infrastructures de sécurité et de gouvernance de l’IA, devenues essentielles à mesure que les entreprises déploient ces technologies à grande échelle.

Comment l’entreprise compte utiliser ces fonds

White Circle prévoit d’utiliser ce financement pour soutenir plusieurs axes de développement :

• accélérer le développement de sa plateforme de surveillance de l’IA
• renforcer ses équipes d’ingénieurs et d’opérations
• étendre sa présence aux États‑Unis, au Royaume‑Uni et en Europe
• développer sa base de clients entreprises à l’international

Selon certaines informations, la plateforme a déjà traité plus d’un milliard de requêtes API, signe d’une adoption précoce par des organisations qui exploitent l’IA à grande échelle.

Une nouvelle couche dans la pile technologique de l’IA

À mesure que l’IA générative s’intègre dans les services clients, les outils de développement logiciel, la finance ou les processus internes des entreprises, le défi ne consiste plus seulement à créer des modèles — mais à les gérer de manière fiable une fois en production.

Des startups comme White Circle cherchent ainsi à combler ce qui est souvent décrit comme une couche manquante de l’infrastructure IA : des outils capables de rendre les systèmes d’IA observables, contrôlables et sécurisés après leur déploiement. En surveillant chaque interaction en temps réel, ces plateformes visent à réduire les risques d’hallucinations, d’attaques par prompt ou de fuites de données, tout en aidant les organisations à exploiter l’IA de manière plus sûre et plus fiable.