Gemini Live API में खतरनाक खामी: एक गायब फ़ील्ड ने AI वॉइस सेशन को कैसे बना दिया हैकर्स का निशाना

गायब live_connect_constraints फ़ील्ड

फ़र्डियानशाह के विश्लेषण के अनुसार, टोकन मिंटिंग के रेफ़रेंस इम्प्लीमेंटेशन में live_connect_constraints फ़ील्ड को शामिल नहीं किया गया था ^A। इस फ़ील्ड में एक bidi_generate_content_setup ऑब्जेक्ट होना चाहिए, जो टोकन को एक विशिष्ट मॉडल, सिस्टम इंस्ट्रक्शन और टूल्स के सेट से बाँधता है।

जब live_connect_constraints को खाली छोड़ दिया जाता है या शामिल नहीं किया जाता है, तो कोई भी प्रतिबंध लागू नहीं होता है। एक हमलावर, जो एफ़ेमेरल टोकन प्राप्त कर लेता है, वह फिर अपनी पसंद का कोई भी मॉडल, सिस्टम प्रॉम्प्ट और टूल्स निर्दिष्ट करते हुए एक क्लाइंट-नियंत्रित सेटअप फ्रेम भेज सकता है। सर्वर, जिसके पास टोकन-बद्ध मानों को मान्य करने के लिए कुछ नहीं होता, हमलावर के कॉन्फ़िगरेशन को स्वीकार कर लेता है।

महत्वपूर्ण चेतावनी: प्रदान किए गए स्रोतों में live_connect_constraints के लिए Google का आधिकारिक दस्तावेज़, कोई CVE, या इस व्यवहार की पुष्टि करने वाला Google सुरक्षा सलाहकार शामिल नहीं है। यह दावा फ़र्डियानशाह के मीडियम पोस्ट पर आधारित है और इसे अभी अपुष्ट लेकिन संभावित माना जाना चाहिए ^A।

प्रभाव: एक हमलावर अनियंत्रित टोकन के साथ क्या कर सकता है

यदि यह कमज़ोरी वास्तविक है, तो इसके परिणाम किसी भी ऐसे एप्लिकेशन के लिए गंभीर हैं जो ब्राउज़र संदर्भ में Gemini Live API का उपयोग करता है:

• टूल्स के माध्यम से सैंडबॉक्स्ड कोड निष्पादन — Gemini Live API के उदाहरणों में कस्टम टूल्स जोड़ने के लिए क्लाइंट-साइड सपोर्ट शामिल है ^D। एक हमलावर, जो एक दुर्भावनापूर्ण टूल डेफ़िनिशन इंजेक्ट कर सकता है, वह एप्लिकेशन के सैंडबॉक्स के भीतर कोड निष्पादित कर सकता है।
• कंप्यूट संसाधनों का दुरुपयोग — एक हाईजैक किया गया सेशन पीड़ित एप्लिकेशन के कोटा और बिलिंग आवंटन का उपभोग करता है। चूँकि एफ़ेमेरल टोकन एकल-उपयोग कनेक्शन के लिए डिज़ाइन किए गए हैं, एक हमलावर बैकएंड के मिंटिंग एंडपॉइंट के माध्यम से बार-बार नए टोकन का अनुरोध करके लागत बढ़ा सकता है ^G।
• प्रॉम्प्ट के साथ छेड़छाड़ — सेटअप फ्रेम को नियंत्रित करने का मतलब सिस्टम इंस्ट्रक्शन को नियंत्रित करना है। एक हमलावर संवेदनशील जानकारी निकालने, हानिकारक सामग्री उत्पन्न करने या किसी विश्वसनीय एजेंट का रूप धारण करने के लिए सेशन का दुरुपयोग कर सकता है ^D।
• बार-बार सेशन का दुरुपयोग — लाइव API सेशन की एक कनेक्शन सीमा लगभग 10 मिनट होती है ^DD। एक हमलावर को फिर से कनेक्ट करना होगा, लेकिन उसी अनियंत्रित टोकन प्रवाह का उपयोग करके, वे बार-बार सेशन को हाईजैक कर सकते हैं।

Google AI फ़ोरम पर डेवलपर्स ने एफ़ेमेरल टोकन द्वारा सिस्टम इंस्ट्रक्शन को अनदेखा करने और प्रतिबंधित एंडपॉइंट्स के साथ अपेक्षित रूप से काम न करने की समस्याओं की सूचना दी है, जो बताता है कि व्यापक इकोसिस्टम अभी भी परिपक्व हो रहा है ^DD।

एक फ़ील्ड का समाधान

फ़र्डियानशाह द्वारा वर्णित समाधान सीधा है: टोकन मिंटिंग के दौरान live_connect_constraints.bidi_generate_content_setup फ़ील्ड को तीन मानों के साथ भरें:

1. model — उपयोग करने के लिए सटीक Gemini मॉडल (जैसे, models/gemini-2.5-flash-native-audio-latest)।
2. system_instruction — इच्छित सिस्टम प्रॉम्प्ट, जो parts में text के रूप में संरचित हो।
3. tools — क्लाइंट-साइड इंजेक्शन को रोकने के लिए एक खाली ऐरे [] या केवल स्पष्ट रूप से अनुमत टूल्स।

यहाँ फ़र्डियानशाह के लेख ^A से सचित्र Python कोड है:

token = gemini_client.auth_tokens.create({
    "uses": 1,
    "expire_time": now + timedelta(seconds=60),
    "new_session_expire_time": now + timedelta(seconds=60),
    "live_connect_constraints": {
        "bidi_generate_content_setup": {
            "model": "models/gemini-2.5-flash-native-audio-latest",
            "system_instruction": {
                "parts": [{"text": "You are a customer support assistant..."}]
            },
            "tools": []
        }
    }
})

नोट: चूँकि live_connect_constraints स्रोतों में दिए गए आधिकारिक Google API संदर्भ में प्रलेखित नहीं है, यह उदाहरण फ़र्डियानशाह के अपने विवरण पर आधारित है और प्रोडक्शन में उपयोग करने से पहले वास्तविक API के विरुद्ध परीक्षण किया जाना चाहिए ^A।

क्या अभी भी अपुष्ट है

प्रदान किए गए स्रोतों द्वारा निम्नलिखित मुख्य बिंदु अभी तक सत्यापित नहीं हुए हैं:

• कोई आधिकारिक Google दस्तावेज़ live_connect_constraints के अस्तित्व या स्कीमा की पुष्टि नहीं करता है।
• कोई CVE या सुरक्षा सलाहकार प्रकाशित नहीं किया गया है।
• शोषण का कोई स्वतंत्र पुनरुत्पादन स्रोतों में शामिल नहीं है।
• अनियंत्रित टोकन प्राप्त करने पर BidiGenerateContentConstrained एंडपॉइंट का सटीक व्यवहार प्रदान किए गए आधिकारिक संदर्भों में प्रलेखित नहीं है ^DS।

डेवलपर्स को अभी क्या करना चाहिए

जब तक Google कोई आधिकारिक सलाहकार प्रकाशित नहीं करता, सबसे सुरक्षित तरीका यह है कि कमज़ोरी को संभावित मानें और सक्रिय रूप से समाधान लागू करें:

1. अपने एफ़ेमेरल टोकन मिंटिंग कोड का ऑडिट करें — जाँच करें कि आपका बैकएंड live_connect_constraints या उसके समकक्ष फ़ील्ड को भरता है या नहीं।
2. कभी भी रॉ API की को एक्सपोज़ न करें — ब्राउज़र-फ़ेसिंग कनेक्शन के लिए हमेशा एफ़ेमेरल टोकन का उपयोग करें ^S।
3. टोकन एक्सपायरी को सख्त रखें — Google newSessionExpireTime को लगभग 60 सेकंड रखने की सलाह देता है ताकि टोकन चोरी की संभावना सीमित हो ^G।
4. सर्वर-साइड सेटअप फ्रेम को मान्य करें — भले ही क्लाइंट अपना कॉन्फ़िगरेशन भेजें, आपके बैकएंड को इच्छित मॉडल, प्रॉम्प्ट और टूल्स को लागू करना चाहिए।
5. दुरुपयोग पर नज़र रखें — असामान्य सेशन पैटर्न पर ध्यान दें, विशेष रूप से एक ही टोकन से बार-बार कनेक्शन या अप्रत्याशित टूल इनवोकेशन।

Gemini Live API रियल-टाइम वॉइस और वीडियो अनुभव बनाने के लिए एक शक्तिशाली उपकरण है। टोकन मिंटिंग प्रक्रिया में एक एकल गायब फ़ील्ड को इस क्षमता को कम नहीं करना चाहिए - लेकिन डेवलपर्स को यह सुनिश्चित करना होगा कि उनके इम्प्लीमेंटेशन पूर्ण हों।

इस लेख को 27 प्रदान किए गए स्रोतों के आधार पर तथ्य-जांचा गया है, जिसमें आधिकारिक Google दस्तावेज़, सामुदायिक फ़ोरम चर्चाएँ और मूल शोधकर्ता का लेख शामिल है। शोधकर्ता के प्रमुख दावों को प्रकाशन के समय आधिकारिक स्रोतों से स्वतंत्र रूप से सत्यापित नहीं किया जा सका।