उत्तरप्रकाशित15 स्रोत
मीरा राजावेल की चेतावनी: सस्ते ओपन-वेट AI मॉडल बन सकते हैं बड़ा साइबर खतरा
मीरा राजावेल के अनुसार, तत्काल जोखिम सबसे शक्तिशाली और नियंत्रित फ्रंटियर मॉडल से अधिक उन सस्ते ओपन वेट मॉडलों का है, जिन्हें कोई भी डाउनलोड करके स्थानीय रूप से चला सकता है। मॉडल के वेट सार्वजनिक होने के बाद प्रदाता की API आधारित निगरानी, सुरक्षा अपडेट, दुरुपयोग रोकने और मॉडल को वापस लेने की क्षमता सीमित हो जाती है।...
प्रकाशितकर्ताGPT-5.6 Luna से संपादितGPT Image 1.5 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- मीरा राजावेल के अनुसार, तत्काल जोखिम सबसे शक्तिशाली और नियंत्रित फ्रंटियर मॉडल से अधिक उन सस्ते ओपन वेट मॉडलों का है, जिन्हें कोई भी डाउनलोड करके स्थानीय रूप से चला सकता है।
- मॉडल के वेट सार्वजनिक होने के बाद प्रदाता की API आधारित निगरानी, सुरक्षा अपडेट, दुरुपयोग रोकने और मॉडल को वापस लेने की क्षमता सीमित हो जाती है।
- कम होती GPU लागत हमलावरों के लिए साइबर जासूसी, फ़िशिंग, मैलवेयर और एक्सप्लॉइट विकसित करने की बाधा घटा रही है।
- Cisco के परीक्षण में आठ ओपन वेट मॉडल पर मल्टी टर्न हमले, सिंगल टर्न हमलों की तुलना में 2 से 10 गुना अधिक सफल रहे।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Palo Alto Networks CIO Meerah Rajavel identify as the greatest cybersecurity threat facing organizations— inexpensive open source o. Article summary: Rajavel’s warning was that the more immediate organizational risk is not necessarily the tightly controlled frontier model, but a cheap, downloadable open weight model that is only a few months behind it in capability.. Topic tags: general web, ai safety, openai, llm, agents. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
राजावेल ने किस खतरे की ओर इशारा किया?
Palo Alto Networks की मुख्य सूचना अधिकारी (CIO) मीरा राजावेल के मुताबिक, संगठनों के लिए सबसे तात्कालिक साइबर सुरक्षा खतरा जरूरी नहीं कि OpenAI या Anthropic जैसे प्रदाताओं के नियंत्रित फ्रंटियर AI मॉडल हों। बड़ा जोखिम उन सस्ते, आसानी से डाउनलोड किए जा सकने वाले ओपन-सोर्स या ओपन-वेट AI मॉडलों से है, जो क्षमता के मामले में फ्रंटियर सिस्टम से केवल कुछ महीने पीछे हैं।
ओपन-वेट मॉडल में मॉडल के प्रशिक्षित पैरामीटर—यानी उसके “वेट”—उपलब्ध होते हैं। इन्हें डाउनलोड करके संगठन, कर्मचारी या हमलावर अपने स्थानीय कंप्यूटर अथवा निजी सर्वर पर चला सकते हैं। राजावेल का अनुमान है कि फ्रंटियर मॉडल जैसी उन्नत आक्रामक AI क्षमताएं चार से छह महीनों के भीतर ऐसे विकल्पों में व्यापक रूप से उपलब्ध हो सकती हैं। 6
API के बाहर जाने पर नियंत्रण क्यों घटता है?
जब कोई AI मॉडल होस्टेड API के जरिए इस्तेमाल किया जाता है, तो उसका प्रदाता आम तौर पर लॉगिंग, दुरुपयोग की पहचान, रेट लिमिट, नीति-प्रवर्तन, सुरक्षा अपडेट और संदिग्ध खातों को निलंबित करने जैसी व्यवस्थाएं लागू कर सकता है।
लेकिन डाउनलोड किए गए मॉडल की स्थानीय कॉपी इस नियंत्रण-व्यवस्था से बाहर होती है। उसके सुरक्षा उपाय बदले या हटाए जा सकते हैं। मूल डेवलपर उसे भरोसेमंद तरीके से पैच या वापस नहीं ले सकता, और कंपनी की सुरक्षा टीम को यह भी पता न चले कि मॉडल कब और किस काम के लिए चलाया जा रहा है। यही “दृश्यता” का नुकसान राजावेल की चेतावनी का केंद्र है।
हमलावरों के लिए आक्रामक इस्तेमाल सस्ता और आसान
क्लाउड-GPU किराये की घटती लागत और स्थानीय परिनियोजन ने सक्षम AI मॉडल चलाने की वित्तीय तथा तकनीकी बाधाएं कम कर दी हैं। इससे इनका इस्तेमाल नेटवर्क की जानकारी जुटाने, एक्सप्लॉइट तैयार करने, फ़िशिंग संदेश बनाने, मैलवेयर में बदलाव करने या लक्षित हमलों को बड़े पैमाने पर स्वचालित करने के लिए किया जा सकता है।
इसका अर्थ यह नहीं है कि हर ओपन-वेट मॉडल उपयोगकर्ता दुर्भावनापूर्ण है। चिंता इस बात को लेकर है कि सार्वजनिक उपलब्धता अधिक लोगों को साइबर गतिविधियों को स्वचालित और बड़े पैमाने पर करने में सक्षम बना सकती है। ओपन-वेट LLM के जोखिम पर शोध भी इसी तरह के प्रसार और स्केल की ओर संकेत करता है। 2
मल्टी-टर्न बातचीत से सुरक्षा उपायों को चकमा देने का खतरा
Cisco के AI Defense शोधकर्ताओं ने आठ ओपन-वेट बड़े भाषा मॉडलों का परीक्षण किया। अध्ययन में पाया गया कि मल्टी-टर्न प्रतिकूल हमले—यानी एक ही बातचीत में लगातार, बदलते हुए और दबाव बढ़ाने वाले प्रॉम्प्ट—सिंगल-टर्न हमलों की तुलना में 2 से 10 गुना अधिक सफल रहे। रिपोर्ट की गई मल्टी-टर्न सफलता दर 25.86% से 92.78% तक थी। 3
व्यावहारिक रूप से इसका मतलब यह है कि कोई मॉडल पहले दुर्भावनापूर्ण अनुरोध को अस्वीकार कर सकता है, लेकिन हमलावर बातचीत को धीरे-धीरे मोड़कर उससे वही जानकारी या कोड हासिल कर सकता है जिसे मॉडल ने शुरुआत में रोक दिया था।
मॉडल फाइल और सप्लाई चेन भी बन सकती है हमले की जगह
जो संगठन मॉडल डाउनलोड करके खुद होस्ट करते हैं, उन्हें केवल मॉडल के नाम पर भरोसा नहीं करना होता। उन्हें मॉडल आर्टिफैक्ट, उसके कन्वर्जन फॉर्मेट, चैट टेम्पलेट, इन्फरेंस सर्वर और संबंधित सॉफ्टवेयर निर्भरताओं की भी जांच करनी पड़ती है।
Cloud Security Alliance ने सेल्फ-होस्टेड मॉडल पर ऐसे खतरे दर्ज किए हैं, जिनमें मॉडल लोड होते समय ही दुर्भावनापूर्ण executable logic या टेम्पलेट सक्रिय हो सकते हैं। इससे क्रेडेंशियल चोरी या डेटा बाहर भेजे जाने का जोखिम पैदा हो सकता है। 12
हालांकि, उपलब्ध प्राथमिक CSA स्रोत से यह स्वतंत्र रूप से सत्यापित नहीं किया जा सका कि किसी एक निष्कर्ष में Meta के Llama, Mistral और Alibaba के Qwen—तीनों का एक साथ नाम लिया गया था। इसलिए इस विशेष दावे को पुष्ट प्रमाण के बिना नहीं दोहराया जाना चाहिए।
Palo Alto Networks के आंकड़ों पर जरूरी सुधार
प्रश्न में दिए गए “पिछले कैलेंडर वर्ष में लगभग 30 अरब हमले रोकने और 250 मिलियन नए हमले देखने” वाले आंकड़े उपलब्ध प्राथमिक स्रोत से मेल नहीं खाते। Palo Alto Networks की प्राथमिक प्रस्तुति के अनुसार, कंपनी प्रतिदिन 8.9 मिलियन तक नए या पहले न देखे गए हमले पहचानती है और प्रतिदिन 30.9 अरब तक हमले रोकती है। 1
ये आंकड़े रोजाना की क्षमता और मात्रा बताते हैं, पूरे साल का कुल नहीं। फिर भी वे राजावेल की व्यापक चिंता को रेखांकित करते हैं: साइबर हमलों का वातावरण पहले से ही तेज और लगातार बदल रहा है। यदि आसानी से उपलब्ध AI मॉडल हमलावरों को कम लागत पर प्रयोग, बदलाव और स्वचालन की सुविधा देते हैं, तो हमले तैयार करने और दोहराने का समय और घट सकता है।
संगठनों के लिए इसका मतलब
राजावेल की चेतावनी का सार यह है कि सुरक्षा रणनीति केवल सबसे शक्तिशाली AI प्रदाताओं पर निगरानी रखने तक सीमित नहीं रह सकती। कंपनियों को यह जानना होगा कि उनके नेटवर्क, कर्मचारियों के उपकरणों और सॉफ्टवेयर सप्लाई चेन में कौन-से मॉडल चल रहे हैं; मॉडल फाइलों और इन्फरेंस सर्वरों की जांच करनी होगी; और स्थानीय रूप से चलने वाले AI सिस्टम के लिए भी लॉगिंग, एक्सेस नियंत्रण, अपडेट तथा रनटाइम सुरक्षा लागू करनी होगी।
खतरा केवल मॉडल की क्षमता में नहीं, बल्कि उसके व्यापक प्रसार, कम लागत और प्रदाता के नियंत्रण से बाहर चले जाने में है।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"मीरा राजावेल की चेतावनी: सस्ते ओपन-वेट AI मॉडल बन सकते हैं बड़ा साइबर खतरा" का संक्षिप्त उत्तर क्या है?
मीरा राजावेल के अनुसार, तत्काल जोखिम सबसे शक्तिशाली और नियंत्रित फ्रंटियर मॉडल से अधिक उन सस्ते ओपन वेट मॉडलों का है, जिन्हें कोई भी डाउनलोड करके स्थानीय रूप से चला सकता है।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
मीरा राजावेल के अनुसार, तत्काल जोखिम सबसे शक्तिशाली और नियंत्रित फ्रंटियर मॉडल से अधिक उन सस्ते ओपन वेट मॉडलों का है, जिन्हें कोई भी डाउनलोड करके स्थानीय रूप से चला सकता है। मॉडल के वेट सार्वजनिक होने के बाद प्रदाता की API आधारित निगरानी, सुरक्षा अपडेट, दुरुपयोग रोकने और मॉडल को वापस लेने की क्षमता सीमित हो जाती है।
मुझे अभ्यास में आगे क्या करना चाहिए?
कम होती GPU लागत हमलावरों के लिए साइबर जासूसी, फ़िशिंग, मैलवेयर और एक्सप्लॉइट विकसित करने की बाधा घटा रही है।