White Circle Bangun ‘Lapisan Kontrol’ Real‑Time untuk AI Perusahaan

Dengan pendekatan ini, perusahaan memiliki satu platform terpusat untuk:

• Memantau input dan output AI
• Mendeteksi respons yang berisiko atau tidak akurat
• Menegakkan kebijakan keamanan dan kepatuhan
• Melacak kinerja model saat digunakan di lingkungan produksi

White Circle menggambarkan platformnya sebagai cara untuk menguji, melindungi, memantau, dan meningkatkan sistem AI secara berkelanjutan, sehingga tata kelola AI tidak lagi sekadar evaluasi sekali jalan, tetapi menjadi proses operasional yang terus berlangsung.

Risiko AI yang Ingin Dideteksi

Ketika perusahaan semakin cepat menambahkan fitur AI generatif ke produk mereka, berbagai risiko operasional juga muncul. White Circle dirancang untuk memantau dan mengurangi risiko tersebut secara langsung.

Halusinasi dan Jawaban yang Salah

Model bahasa besar (LLM) dapat memberikan jawaban yang terdengar meyakinkan tetapi sebenarnya tidak akurat. Platform ini menganalisis output model dan menandai respons yang mencurigakan sebelum mencapai pengguna atau sistem lain.

Serangan Prompt‑Injection dan Jailbreak

Penyerang dapat memanipulasi prompt untuk memaksa model mengabaikan aturan keamanan atau membuka informasi yang seharusnya dibatasi. White Circle memonitor prompt dan respons untuk mendeteksi upaya tersebut dan memblokirnya secara otomatis.

Model Drift

Seiring waktu, perilaku model bisa berubah karena data baru, integrasi tambahan, atau perubahan pola penggunaan. Pemantauan berkelanjutan membantu perusahaan mendeteksi perubahan tak terduga dalam output model.

Kebocoran Data Sensitif

Sistem AI generatif dapat tanpa sengaja mengungkap data rahasia melalui prompt, memori sistem, atau sumber pengetahuan terintegrasi. White Circle memindai interaksi untuk mendeteksi dan mencegah kebocoran tersebut.

Risiko dari Pengembangan AI yang Terlalu Cepat

Tren pengembangan modern—termasuk eksperimen cepat dan penggunaan AI untuk menulis kode—membuat banyak tim meluncurkan fitur AI dengan cepat tanpa sistem pemantauan yang matang. White Circle memposisikan lapisan kontrolnya sebagai sistem pengaman tambahan untuk lingkungan pengembangan yang bergerak cepat ini.

Kisah Founder dan Jailbreak yang Viral

White Circle didirikan oleh insinyur Denis Shilov, yang menjadi perhatian komunitas AI pada tahun 2024 setelah menunjukkan bahwa satu prompt yang dapat digunakan kembali mampu melewati filter keamanan di beberapa model AI besar.

Teknik tersebut sering disebut sebagai “universal jailbreak.” Caranya adalah dengan membingkai ulang peran model agar bertindak seperti API yang hanya memproses permintaan—bukan chatbot yang harus menilai apakah permintaan tersebut aman atau tidak. Pendekatan ini memperlihatkan betapa mudahnya sistem pengaman internal model dapat dilewati dalam kondisi tertentu.

Demonstrasi itu menyoroti masalah yang lebih besar: mekanisme keamanan di dalam model saja belum tentu cukup. Banyak perusahaan kini membutuhkan lapisan pengawasan tambahan di luar model ketika AI sudah digunakan dalam produk nyata.

Pendanaan Awal $11 Juta

White Circle baru saja menutup pendanaan seed sebesar $11 juta dari sekelompok investor yang berisi tokoh‑tokoh terkenal di industri AI dan infrastruktur teknologi.

Beberapa investor yang ikut serta antara lain:

• Romain Huet (OpenAI)
• Dirk Kingma (Anthropic, sebelumnya OpenAI)
• Guillaume Lample (Mistral)
• Thomas Wolf (Hugging Face)
• Olivier Pomel (Datadog)
• François Chollet (Keras)
• Mehdi Ghissassi (mantan DeepMind)
• Paige Bailey (DeepMind)
• David Cramer (Sentry)

Daftar investor ini menunjukkan meningkatnya perhatian industri terhadap infrastruktur keamanan dan tata kelola AI seiring perusahaan semakin mengandalkan AI dalam operasional mereka.

Untuk Apa Dana Ini Digunakan

Pendanaan baru tersebut akan difokuskan pada tiga hal utama:

• Mempercepat pengembangan produk platform pemantauan AI
• Memperluas tim teknik dan operasional di Amerika Serikat, Inggris, dan Eropa
• Mengembangkan basis pelanggan global serta implementasi di perusahaan besar

Beberapa laporan menyebutkan platform White Circle sudah memproses lebih dari satu miliar permintaan API, menunjukkan adanya adopsi awal dari perusahaan yang menjalankan AI dalam skala besar.

Tren Lebih Besar: AI Membutuhkan Lapisan Kontrol Operasional

Seiring AI generatif semakin tertanam dalam layanan pelanggan, perangkat pengembangan perangkat lunak, aplikasi keuangan, hingga otomatisasi internal, tantangan utama tidak lagi hanya membangun model—melainkan mengelola dan mengawasinya dengan aman setelah diluncurkan.

Startup seperti White Circle muncul untuk mengisi celah tersebut. Mereka menyediakan apa yang oleh banyak tim dianggap sebagai lapisan yang hilang dalam tumpukan teknologi AI: sistem yang membuat AI dapat diamati, dikendalikan, dan diamankan saat digunakan secara nyata.

Dengan memantau setiap interaksi secara real‑time, platform semacam ini bertujuan mengurangi risiko seperti halusinasi, serangan prompt, dan kebocoran data—sekaligus membantu perusahaan menjalankan AI secara andal dalam skala besar.