इससे कंपनियों को एक ही जगह से कई महत्वपूर्ण काम करने की सुविधा मिलती है:
कंपनी का कहना है कि उसका प्लेटफॉर्म AI सिस्टम्स को लगातार टेस्ट, सुरक्षित, मॉनिटर और बेहतर करने का तरीका देता है—यानी AI गवर्नेंस को केवल ऑडिट नहीं बल्कि एक निरंतर ऑपरेशनल प्रक्रिया बनाता है।
जब कंपनियां तेजी से जनरेटिव AI फीचर्स लॉन्च करती हैं, तो कई नए ऑपरेशनल जोखिम सामने आते हैं। White Circle इन्हें रियल‑टाइम में पहचानने और कम करने पर ध्यान देता है।
बड़े भाषा मॉडल कभी‑कभी ऐसे उत्तर दे सकते हैं जो सुनने में सही लगते हैं लेकिन वास्तव में गलत होते हैं। White Circle आउटपुट का विश्लेषण करके संदिग्ध जवाबों को पहचानने और फ्लैग करने की कोशिश करता है।
कुछ उपयोगकर्ता जानबूझकर ऐसे प्रॉम्प्ट लिखते हैं जो AI की सुरक्षा सीमाओं को पार करवा दें। प्लेटफॉर्म इन प्रॉम्प्ट्स और उनके जवाबों को स्कैन करके ऐसे हमलों को पहचान सकता है और उन्हें ब्लॉक कर सकता है।
समय के साथ‑साथ मॉडल का व्यवहार बदल सकता है—उदाहरण के लिए नए डेटा, नए इंटीग्रेशन या उपयोगकर्ता व्यवहार के कारण। लगातार मॉनिटरिंग से कंपनियां इन बदलावों को जल्दी पकड़ सकती हैं।
जनरेटिव AI सिस्टम कभी‑कभी अनजाने में गोपनीय डेटा उजागर कर सकते हैं, खासकर जब वे बाहरी डेटाबेस या मेमोरी सिस्टम से जुड़े हों। White Circle इंटरैक्शन स्कैन करके ऐसे डेटा लीक को रोकने की कोशिश करता है।
आजकल कई टीमें तेजी से AI‑आधारित फीचर्स लॉन्च कर रही हैं—कभी‑कभी बिना मजबूत मॉनिटरिंग और सुरक्षा प्रक्रियाओं के। White Circle खुद को ऐसे माहौल में एक सुरक्षा परत के रूप में पेश करता है जो प्रोडक्शन में AI के व्यवहार पर नजर रख सके।
White Circle के संस्थापक इंजीनियर Denis Shilov हैं। वे 2024 में तब सुर्खियों में आए जब उन्होंने दिखाया कि एक ही प्रॉम्प्ट से कई बड़े AI मॉडल्स की सुरक्षा फिल्टर को बायपास किया जा सकता है।
इस तकनीक को अक्सर “universal jailbreak” कहा गया। इसमें मॉडल को इस तरह निर्देश दिया जाता था कि वह सुरक्षा नियमों वाले चैटबॉट की तरह नहीं बल्कि एक साधारण API की तरह व्यवहार करे—जो केवल सवाल का जवाब दे। इससे कई मॉडल्स की सुरक्षा सीमाएं कमजोर साबित हुईं।
इस घटना ने यह सवाल उठाया कि केवल मॉडल के अंदर बने सुरक्षा नियम पर्याप्त नहीं हैं। प्रोडक्शन में इस्तेमाल होने वाले AI के लिए बाहरी मॉनिटरिंग और कंट्रोल लेयर भी जरूरी हो सकती है।
White Circle ने हाल ही में $11 मिलियन की सीड फंडिंग जुटाई है, जिसमें AI उद्योग के कई प्रमुख नाम शामिल हैं।
इन निवेशकों में शामिल हैं:
इतने बड़े AI नेताओं की भागीदारी इस बात का संकेत देती है कि AI सुरक्षा और मॉनिटरिंग इंफ्रास्ट्रक्चर अब तेजी से महत्वपूर्ण होता जा रहा है।
कंपनी के अनुसार नई पूंजी मुख्य रूप से तीन क्षेत्रों में लगाई जाएगी:
रिपोर्ट्स के अनुसार White Circle का प्लेटफॉर्म अब तक 1 अरब से अधिक API रिक्वेस्ट प्रोसेस कर चुका है, जो शुरुआती चरण में भी इसकी उपयोगिता को दर्शाता है।
जैसे‑जैसे जनरेटिव AI ग्राहक सेवा, सॉफ्टवेयर डेवलपमेंट, वित्तीय सेवाओं और आंतरिक ऑटोमेशन जैसे क्षेत्रों में गहराई से शामिल हो रहा है, कंपनियों की चुनौती बदल रही है। अब सवाल केवल मॉडल बनाने का नहीं बल्कि उन्हें सुरक्षित तरीके से चलाने और नियंत्रित करने का है।
White Circle जैसे स्टार्टअप इसी खाली जगह को भरने की कोशिश कर रहे हैं—एक ऐसे टूलसेट के जरिए जो AI सिस्टम्स को observable, governable और सुरक्षित बनाए। रियल‑टाइम मॉनिटरिंग के जरिए कंपनियां hallucinations, prompt‑based हमलों और डेटा लीक जैसे जोखिमों को कम कर सकती हैं और बड़े पैमाने पर AI को भरोसेमंद तरीके से चला सकती हैं।
Comments
0 comments