화이트 서클, 기업 AI를 위한 실시간 통제 레이어를 만들다

회사 측은 이 접근 방식을 AI를 "테스트하고 보호하고 모니터링하며 지속적으로 개선하는" 운영 인프라로 설명한다. 즉 AI 거버넌스를 일회성 평가가 아닌 지속적인 운영 기능으로 바꾸겠다는 것이다.

기업 AI에서 실제로 발생하는 주요 위험

생성형 AI가 고객 서비스, 금융 시스템, 개발 도구 등 다양한 영역에 빠르게 도입되면서 몇 가지 공통적인 문제가 나타나고 있다. 화이트 서클 플랫폼은 이런 문제들을 실시간으로 탐지하도록 설계됐다.

1. 환각(Hallucination)

대형 언어 모델은 그럴듯하지만 사실과 다른 답변을 자신 있게 생성하는 경우가 있다. 화이트 서클은 응답을 분석해 의심스러운 결과를 표시하거나 차단할 수 있도록 한다.

2. 프롬프트 인젝션 및 탈옥 공격

공격자는 특정 프롬프트를 통해 모델의 안전 규칙을 우회하도록 유도할 수 있다. 플랫폼은 프롬프트와 응답을 동시에 분석해 이러한 시도를 자동으로 탐지하고 차단한다.

3. 모델 드리프트(Model Drift)

시간이 지나면서 입력 데이터나 사용자 행동이 변하면 모델의 출력 방식도 달라질 수 있다. 지속적인 모니터링을 통해 기업은 예상치 못한 변화를 빠르게 파악할 수 있다.

4. 민감 데이터 유출

생성형 AI는 내부 문서, 데이터베이스, 벡터 스토어 등과 연결되는 경우가 많다. 잘못된 프롬프트나 설정으로 인해 기밀 정보가 노출될 위험이 있다. 화이트 서클은 이러한 상호작용을 스캔해 데이터 유출 가능성을 탐지한다.

5. 빠른 AI 개발 문화

최근 개발 현장에서는 AI가 코드를 생성하고 프로토타입을 빠르게 만드는 흐름이 확산되고 있다. 이런 환경에서는 충분한 모니터링 없이 기능이 배포되기 쉽다. 화이트 서클은 이런 초고속 AI 개발 환경에서의 안전 레이어 역할을 목표로 한다.

창업자가 주목받은 이유: ‘유니버설 탈옥’ 실험

화이트 서클의 창업자는 엔지니어 **데니스 실로프(Denis Shilov)**다. 그는 2024년 한 실험으로 업계에서 큰 관심을 받았다.

실로프는 단 하나의 프롬프트로 여러 주요 AI 모델의 안전 필터를 우회할 수 있다는 사실을 시연했다. 이 방법은 흔히 **“유니버설 탈옥(universal jailbreak)”**이라고 불렸다.

핵심 아이디어는 모델에게 챗봇처럼 안전 규칙을 따르지 말고 단순한 API 응답 시스템처럼 행동하라고 지시하는 것이었다. 이렇게 역할을 재정의하면 일부 안전 장치가 제대로 작동하지 않는다는 점을 보여줬다.

이 사건은 중요한 메시지를 던졌다. 모델 내부의 안전 장치만으로는 충분하지 않을 수 있으며, 실제 제품 환경에서는 별도의 외부 통제 레이어가 필요하다는 것이다.

1,100만 달러 시드 투자 유치

화이트 서클은 최근 1,100만 달러 규모의 시드 투자를 확보했다. 투자에는 AI 업계의 영향력 있는 인물들이 참여했다.

대표적인 투자자는 다음과 같다.

• 로맹 위에(Romain Huet) – OpenAI
• 디르크 킹마(Dirk Kingma) – Anthropic, 전 OpenAI
• 기욤 랑플(Guillaume Lample) – Mistral
• 토마스 울프(Thomas Wolf) – Hugging Face
• 올리비에 포멜(Olivier Pomel) – Datadog
• 프랑수아 숄레(François Chollet) – Keras
• 메흐디 기사시(Mehdi Ghissassi) – 전 DeepMind
• 페이지 베일리(Paige Bailey) – DeepMind
• 데이비드 크레이머(David Cramer) – Sentry

이 투자자 명단은 기업 AI가 확산될수록 보안·관찰·거버넌스 인프라의 중요성이 커지고 있다는 업계 인식을 보여준다.

자금 사용 계획

새롭게 확보한 자금은 다음 분야에 집중적으로 사용될 예정이다.

• AI 모니터링 플랫폼 제품 개발 가속
• 미국·영국·유럽 지역에서 엔지니어링 및 운영 인력 확대
• 글로벌 고객 확보 및 기업 시장 확장

현재까지 이 플랫폼은 10억 건 이상의 API 요청을 처리한 것으로 알려져 있으며, 이는 이미 여러 기업 환경에서 실제로 사용되고 있음을 시사한다.

커지는 시장: ‘AI 운영 레이어’의 등장

생성형 AI가 고객 서비스, 금융 애플리케이션, 개발 도구, 내부 자동화 시스템 등 다양한 영역에 내장되면서 기업의 관심사는 모델 개발에서 **운영 관리(operations)**로 이동하고 있다.

화이트 서클 같은 스타트업은 이 변화 속에서 새로운 역할을 맡는다. 바로 배포된 AI 시스템을 관찰하고 통제하며 안전하게 운영하는 인프라다.

AI가 실제 업무와 서비스에 더 깊이 들어갈수록, 이런 실시간 거버넌스 레이어는 기업 AI 스택에서 점점 더 중요한 구성 요소가 될 가능성이 크다.