White Circle quer ser a camada de controle em tempo real para sistemas de IA nas empresas

A inteligência artificial está saindo do estágio experimental e se tornando infraestrutura central dentro das empresas. Porém, quando sistemas de IA passam a operar em produtos reais, surge um novo desafio: como monitorar e controlar o comportamento dos modelos em tempo real.

A startup White Circle, com sede em Paris, quer resolver exatamente esse problema. A empresa desenvolveu uma plataforma que funciona como uma camada de controle (control layer) para aplicações de IA, monitorando continuamente o comportamento dos modelos e bloqueando respostas potencialmente perigosas ou incorretas enquanto o sistema está rodando em produção. Recentemente, a companhia levantou US$ 11 milhões em uma rodada seed para expandir essa visão.

Como funciona a plataforma da White Circle

A tecnologia da White Circle fica posicionada entre os usuários (ou aplicações) e os modelos de IA utilizados. Em vez de depender apenas de testes antes do lançamento ou auditorias ocasionais, a plataforma analisa cada solicitação e cada resposta gerada pelos modelos em tempo real.

Isso permite que empresas tenham um único sistema para:

• Monitorar entradas e saídas de modelos de IA
• Detectar respostas incorretas ou arriscadas
• Aplicar políticas de segurança e compliance
• Acompanhar desempenho e confiabilidade dos modelos em produção

Segundo a empresa, o objetivo é transformar governança de IA em um processo contínuo — capaz de testar, proteger, monitorar e melhorar sistemas de IA constantemente, em vez de depender apenas de avaliações pontuais antes do lançamento.

Problemas que a plataforma tenta resolver

À medida que empresas adotam recursos de IA generativa em produtos e serviços, vários riscos operacionais se tornaram comuns. A White Circle foca em detectar e mitigar esses problemas enquanto os sistemas estão em uso.

Alucinações e respostas incorretas

Modelos de linguagem podem gerar respostas aparentemente confiáveis, mas incorretas. A plataforma analisa as saídas do modelo e sinaliza respostas suspeitas ou inconsistentes antes que cheguem ao usuário final ou a outros sistemas.

Ataques de prompt‑injection e jailbreak

Atacantes podem manipular prompts para contornar regras de segurança ou extrair informações restritas. A White Circle monitora prompts e respostas para identificar esse tipo de ataque e bloqueá‑lo automaticamente.

Model drift

Com o tempo, o comportamento de modelos pode mudar devido a novos dados, integrações ou mudanças no uso. O monitoramento contínuo ajuda as empresas a detectar essas alterações inesperadas.

Vazamento de dados sensíveis

Sistemas de IA podem revelar informações confidenciais sem intenção — por exemplo, a partir de prompts, memória de conversas ou integrações com bases de conhecimento. A plataforma analisa interações para evitar esse tipo de exposição.

Riscos do desenvolvimento acelerado de IA

A adoção rápida de IA — incluindo o uso de ferramentas que geram código ou aceleram experimentação — faz com que equipes lancem funcionalidades mais rapidamente do que conseguem monitorá‑las. A White Circle se posiciona como uma camada de segurança para esse cenário de desenvolvimento acelerado.

O fundador e o jailbreak que chamou atenção

A empresa foi fundada pelo engenheiro Denis Shilov, que ganhou destaque em 2024 ao demonstrar que um único prompt reutilizável poderia contornar filtros de segurança em vários modelos de IA populares.

O método ficou conhecido como “jailbreak universal”. Na prática, o prompt instruía o modelo a agir como uma API que apenas responde solicitações — em vez de atuar como um chatbot que decide se deve ou não recusar certos pedidos. Esse enquadramento permitia driblar alguns mecanismos de segurança.

A demonstração reforçou um ponto importante no debate sobre IA: confiar apenas nas proteções internas dos modelos pode não ser suficiente. Camadas externas de monitoramento e controle podem adicionar uma proteção extra quando a IA está sendo usada em aplicações reais.

A rodada seed de US$ 11 milhões

A White Circle anunciou recentemente uma rodada seed de US$ 11 milhões, com participação de figuras influentes do ecossistema global de IA.

Entre os investidores estão:

• Romain Huet (OpenAI)
• Dirk Kingma (Anthropic, ex‑OpenAI)
• Guillaume Lample (Mistral)
• Thomas Wolf (Hugging Face)
• Olivier Pomel (Datadog)
• François Chollet (criador do Keras)
• Mehdi Ghissassi (ex‑DeepMind)
• Paige Bailey (DeepMind)
• David Cramer (Sentry)

A presença desses nomes destaca a crescente importância de infraestrutura de segurança, monitoramento e governança para IA, especialmente à medida que empresas integram modelos em processos críticos.

Como a empresa pretende usar o investimento

O capital captado será direcionado principalmente para três frentes:

• acelerar o desenvolvimento da plataforma de monitoramento de IA
• ampliar as equipes de engenharia e operações
• expandir a presença global da empresa

A expansão inclui contratação e crescimento de operações nos Estados Unidos, Reino Unido e Europa, além da ampliação da base de clientes corporativos.

Segundo relatos, a plataforma já processou mais de 1 bilhão de requisições de API, um indicativo de adoção inicial por empresas que executam aplicações de IA em escala.

A tendência maior: IA precisa de uma camada operacional

À medida que a IA generativa entra em áreas como atendimento ao cliente, automação interna, ferramentas de desenvolvimento e aplicações financeiras, o desafio deixa de ser apenas criar modelos — e passa a ser operá‑los com segurança em produção.

Startups como a White Circle estão surgindo para preencher o que muitos consideram uma lacuna na pilha tecnológica da IA: ferramentas que tornam sistemas de IA observáveis, governáveis e controláveis depois do lançamento. Ao monitorar cada interação em tempo real, essas plataformas tentam reduzir riscos como alucinações, ataques de prompt e vazamentos de dados enquanto ajudam empresas a usar IA com mais confiança e escala.