White Circle: Die Kontrollschicht für KI‑Systeme im Live‑Betrieb

Damit erhalten Unternehmen eine zentrale Stelle, um:

• Eingaben und Ausgaben von KI‑Modellen zu überwachen
• riskante oder falsche Antworten zu erkennen
• Sicherheits‑ und Compliance‑Regeln durchzusetzen
• die Performance von Modellen im Produktivbetrieb zu verfolgen

Der Ansatz unterscheidet sich von klassischen KI‑Audits. Statt Modelle nur vor dem Einsatz zu testen, analysiert White Circle jede Interaktion in Echtzeit. So wird Governance zu einer operativen Funktion im laufenden Betrieb.

Welche Risiken die Plattform erkennen soll

Mit der schnellen Einführung generativer KI entstehen neue technische und organisatorische Risiken. White Circle konzentriert sich darauf, diese während der Nutzung zu erkennen und zu begrenzen.

Halluzinationen

Große Sprachmodelle können Antworten erzeugen, die überzeugend klingen, aber faktisch falsch sind. White Circle analysiert Ausgaben und markiert verdächtige oder inkonsistente Antworten, bevor sie Nutzer oder andere Systeme erreichen.

Prompt‑Injection und Jailbreaks

Angreifer versuchen häufig, Sicherheitsregeln eines Modells über manipulierte Eingaben zu umgehen. Die Plattform überwacht Prompts und Antworten, erkennt solche Versuche und kann sie automatisch blockieren.

Model Drift

Im Laufe der Zeit verändern sich Daten, Nutzungsmuster oder Integrationen. Dadurch kann sich auch das Verhalten eines Modells verschieben. Kontinuierliches Monitoring hilft Unternehmen, solche Veränderungen früh zu erkennen.

Lecks sensibler Daten

Generative KI kann unbeabsichtigt vertrauliche Informationen preisgeben – etwa aus Trainingsdaten, Wissensdatenbanken oder internen Tools. White Circle scannt Interaktionen, um solche Datenlecks zu identifizieren und zu verhindern.

Risiken durch schnelle KI‑Entwicklung

Viele Teams entwickeln KI‑Features heute extrem schnell, etwa durch automatisierte Tools oder KI‑unterstütztes Programmieren. Dabei fehlen oft ausgereifte Sicherheits‑ und Monitoring‑Strukturen. White Circle positioniert seine Plattform als Schutzschicht für genau solche Umgebungen.

Warum der Gründer bereits viral ging

Gegründet wurde White Circle vom Ingenieur Denis Shilov. Bekannt wurde er 2024 durch eine Demonstration, bei der er mit einem einzigen Prompt Sicherheitsfilter mehrerer führender KI‑Modelle umgehen konnte.

Die Methode wurde als „Universal‑Jailbreak“ bezeichnet. Shilov formulierte die Eingabe so, dass das Modell nicht mehr als Chatbot mit Sicherheitsregeln agierte, sondern wie eine einfache API, die Anfragen beantwortet. Dadurch ließen sich Schutzmechanismen umgehen.

Der Vorfall zeigte ein strukturelles Problem moderner KI: Sicherheitsmechanismen innerhalb eines Modells reichen allein oft nicht aus. Eine zusätzliche Kontrollschicht außerhalb des Modells kann Risiken im produktiven Einsatz abfangen.

11 Millionen Dollar Seed‑Finanzierung

Um diese Infrastruktur aufzubauen, hat White Circle kürzlich 11 Millionen US‑Dollar Seed‑Kapital eingesammelt.

Zu den Investoren gehören mehrere prominente Persönlichkeiten aus der KI‑ und Software‑Branche, darunter:

• Romain Huet (OpenAI)
• Dirk Kingma (Anthropic, zuvor OpenAI)
• Guillaume Lample (Mistral)
• Thomas Wolf (Hugging Face)
• Olivier Pomel (Datadog)
• François Chollet (Keras)
• Mehdi Ghissassi (ehemals DeepMind)
• Paige Bailey (DeepMind)
• David Cramer (Sentry)

Dass so viele bekannte KI‑Forscher und Infrastruktur‑Unternehmer beteiligt sind, zeigt, wie wichtig Sicherheits‑ und Governance‑Tools für Unternehmens‑KI inzwischen geworden sind.

Wofür das Kapital eingesetzt wird

Mit der neuen Finanzierung plant White Circle vor allem drei Schritte:

• schnellere Produktentwicklung der Monitoring‑ und Sicherheitsplattform
• Ausbau von Engineering‑ und Operations‑Teams
• Expansion in internationale Märkte

Konkret sollen Teams in den USA, Großbritannien und Europa wachsen und die Plattform weltweit stärker bei Unternehmen eingesetzt werden.

Berichten zufolge hat die Plattform bereits mehr als eine Milliarde API‑Anfragen verarbeitet, ein Hinweis darauf, dass erste Unternehmen die Technologie bereits im großen Maßstab einsetzen.

Ein neuer Layer im KI‑Stack

Je stärker generative KI in Geschäftsprozesse integriert wird – vom Kundensupport bis zur Softwareentwicklung – desto wichtiger wird nicht nur das Modell selbst, sondern auch seine Überwachung im Betrieb.

Start‑ups wie White Circle versuchen genau diese Lücke zu schließen: eine Infrastruktur, die KI‑Systeme nach der Bereitstellung sichtbar, kontrollierbar und sicher macht. Durch Echtzeit‑Analyse jeder Interaktion sollen Risiken wie Halluzinationen, Angriffe oder Datenlecks reduziert werden, während Unternehmen ihre KI‑Anwendungen skalieren.