उत्तरप्रकाशित18 स्रोत
GPT-6 Astra बनाम GPT-5.6 Sol: सुरक्षा बेहतर हुई, पर छिपे प्रॉम्प्ट-इंजेक्शन का खतरा बाकी
OpenAI का कहना है कि GPT 6 Astra, GPT 5.6 Sol के मुकाबले कम तथ्यात्मक गलतियां करता है और लंबे हमलावर संवादों सहित जेलब्रेक तथा प्रॉम्प्ट इंजेक्शन के प्रति काफी अधिक मजबूत है। Gray Swan की IPI Arena में 13 अग्रणी मॉडलों, 41 एजेंट परिदृश्यों और 2,72,000 से अधिक हमले के प्रयासों के बाद कोई भी परीक्षण किया गया मॉडल छिपे...
प्रकाशितकर्ताGPT-5.6 Terra से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- OpenAI का कहना है कि GPT 6 Astra, GPT 5.6 Sol के मुकाबले कम तथ्यात्मक गलतियां करता है और लंबे हमलावर संवादों सहित जेलब्रेक तथा प्रॉम्प्ट इंजेक्शन के प्रति काफी अधिक मजबूत है।
- Gray Swan की IPI Arena में 13 अग्रणी मॉडलों, 41 एजेंट परिदृश्यों और 2,72,000 से अधिक हमले के प्रयासों के बाद कोई भी परीक्षण किया गया मॉडल छिपे प्रॉम्प्ट इंजेक्शन से पूर्णतः सुरक्षित नहीं पाया गया।
- उपलब्ध सामग्री में GPT 6 Astra और Anthropic के Claude Opus 5 के बीच तथ्यात्मकता या जेलब्रेक प्रतिरोध की कोई प्रत्यक्ष, एक जैसी परिस्थितियों वाली निर्णायक तुलना नहीं है।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: How does OpenAI’s GPT-6 Astra, released September 3, compare with GPT-5.6 Sol and Anthropic’s Claude Opus 5 on factual-error reduction, resi. Article summary: GPT‑6 Astra is a substantial improvement over GPT‑5.6 Sol on OpenAI’s internal factuality and jailbreak-robustness evaluations, including longer, multi-turn attack trajectories. But this is not evidence of immunity: inde. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
OpenAI के अपने मूल्यांकनों में GPT-6 Astra, GPT-5.6 Sol की तुलना में सुरक्षा के लिहाज से स्पष्ट प्रगति दिखाता है। कंपनी के अनुसार Astra कम तथ्यात्मक गलतियां करता है, प्रॉम्प्ट इंजेक्शन के प्रति अधिक प्रतिरोधी है और जेलब्रेक प्रयासों—खासकर लंबे, कई चरणों वाले हमलों—के खिलाफ काफी अधिक मजबूत है। 25
30
लेकिन मॉडल का बेहतर व्यवहार अपने-आप में पर्याप्त सुरक्षा-सीमा नहीं है। जब कोई AI एजेंट वेबपेज, दस्तावेज़, ईमेल, कोड रिपॉजिटरी या टूल के आउटपुट पढ़ता है, तो उनमें छिपे दुर्भावनापूर्ण निर्देश उसे प्रभावित कर सकते हैं। Gray Swan की अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन (IPI) जांच में परीक्षण किया गया कोई भी मॉडल इससे पूरी तरह प्रतिरक्षित नहीं निकला। 4
GPT-5.6 Sol की तुलना में Astra में क्या बेहतर है
OpenAI कहता है कि Astra, GPT-5.6 Sol की अपेक्षा जेलब्रेक के खिलाफ काफी अधिक मजबूत है, और यह सुधार लंबी हमलावर प्रक्रियाओं में भी दिखाई देता है। यह अहम है क्योंकि परिष्कृत हमलावर केवल एक साफ-साफ दिखने वाले निर्देश पर निर्भर नहीं रहते; वे कई संदेशों में अपनी रणनीति बदल सकते हैं और जमा हो चुके संदर्भ का फायदा उठाने की कोशिश कर सकते हैं। 25
कंपनी ने ब्राउज़िंग और कार्यस्थल जैसे उपयोग के मामलों में प्रॉम्प्ट-इंजेक्शन प्रतिरोध बेहतर होने और तथ्यात्मक गलतियां घटने की भी बात कही है। हालांकि तथ्यात्मकता के आंकड़ों को सावधानी से पढ़ना चाहिए: जिन परीक्षणों का उल्लेख है, वे उन ChatGPT बातचीतों पर केंद्रित थे जिन्हें उपयोगकर्ताओं ने पहले ही गलत उत्तर के लिए चिह्नित किया था। इसलिए इन्हें रोजमर्रा के उपयोग में होने वाली गलतियों की औसत दर नहीं माना जा सकता। 25
30
ये सुधार खासकर उन एजेंटों के लिए महत्वपूर्ण हैं जिन्हें शोध, कोडिंग, ब्राउज़िंग और कई चरणों वाला काम करना हो। OpenAI के रिलीज़ नोट्स में Astra को जटिल बहु-चरणीय कार्यों के साथ-साथ दस्तावेज़, स्प्रेडशीट और प्रेज़ेंटेशन बनाने में सक्षम बताया गया है। 19
Claude Opus 5 को निर्णायक रैंक क्यों नहीं दी जा सकती
उपलब्ध साक्ष्य यह सार्वभौमिक दावा करने के लिए पर्याप्त नहीं हैं कि तथ्यात्मकता, प्रत्यक्ष जेलब्रेक या अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन—हर पहलू में Astra, Anthropic के Claude Opus 5 से अधिक सुरक्षित है।
मॉडलों की निष्पक्ष तुलना के लिए एक समान टेस्ट-सेट, समान एजेंट टूल, एक जैसे सिस्टम निर्देश, हमले की सफलता की साझा परिभाषा और दोनों परिदृश्यों में समान रूप से रणनीति बदल सकने वाला हमलावर चाहिए। अलग-अलग कंपनियों के मूल्यांकन और सार्वजनिक रेड-टीम चुनौतियां इन सभी बिंदुओं पर अलग हो सकती हैं। Gray Swan की सामग्री में Claude Opus 5 को उसके Arena में उपलब्ध मॉडलों में गिना गया है, लेकिन दी गई सामग्री Astra और Opus 5 की सीधे तुलना करने वाला स्कोरकार्ड नहीं देती। 1
4
इसलिए अधिक ठोस निष्कर्ष यही है: OpenAI का सबसे मजबूत प्रमाण Astra के अपने पूर्ववर्ती GPT-5.6 Sol से बेहतर होने के लिए है।
प्रत्यक्ष जेलब्रेक और अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन में अंतर
प्रत्यक्ष जेलब्रेक में हमलावर मॉडल को सामने से संदेश भेजकर उसके नियमों को बदलवाने या निषिद्ध काम करवाने की कोशिश करता है। लंबे हमलावर क्रमों के खिलाफ Astra की बताई गई मजबूती ऐसे लगातार और रणनीति बदलने वाले हमलावर के संदर्भ में सबसे प्रासंगिक है। 25
इसके विपरीत, अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन उस सामग्री के जरिए आता है जिसे एजेंट पढ़ रहा होता है। दुर्भावनापूर्ण निर्देश किसी वेबपेज, ईमेल, दस्तावेज़, सर्च परिणाम, कोडिंग ट्रेस या टूल आउटपुट में छिपे हो सकते हैं और एजेंट को उपयोगकर्ता के मूल लक्ष्य से भटका सकते हैं। Gray Swan की IPI चुनौती में वास्तविक परिवेश जैसी वेब सामग्री, टूल आउटपुट और कोडिंग-एजेंट ट्रेस में मौजूद छिपे प्रॉम्प्ट पर ही ध्यान था। 5
यही इसे खास तौर पर चिंताजनक बनाता है: एजेंट चलाने वाले व्यक्ति को वह दुर्भावनापूर्ण निर्देश दिखे भी नहीं सकता।
Gray Swan IPI Arena से क्या पता चलता है और क्या नहीं
Gray Swan ने अपनी IPI Arena के नतीजों में 13 अग्रणी मॉडल, 464 रेड टीमर, 41 परिदृश्य और 2,72,000 से अधिक हमले के प्रयास बताए। उसका निष्कर्ष था कि परीक्षण किया गया कोई भी मॉडल अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन से प्रतिरक्षित नहीं था। 4
यह एजेंट-आधारित तैनाती में IPI के अब भी अनसुलझी समस्या होने का मजबूत संकेत है। लेकिन इसे हर सुरक्षा आयाम की पूरी, विक्रेता-तटस्थ रैंकिंग नहीं समझना चाहिए। इससे यह सिद्ध नहीं होता कि हर मॉडल समान दर से विफल होता है, न ही यह तथ्यात्मकता या प्रत्यक्ष जेलब्रेक प्रतिरोध के मॉडल-विशिष्ट मूल्यांकनों का विकल्प है।
एंटरप्राइज़ एजेंटों में यह कमजोरी अधिक मायने क्यों रखती है
सामान्य चैट असिस्टेंट में सफल इंजेक्शन का नतीजा भ्रामक जवाब हो सकता है। लेकिन किसी कंपनी के सिस्टम से जुड़े एजेंट में असर कहीं बड़ा हो सकता है।
OpenAI ने अपने Preparedness Framework में Astra को साइबरसुरक्षा क्षमता के Critical स्तर पर रखा है। कंपनी के अनुसार, उचित टूल और पहुंच मिलने पर Astra बिना हर चरण में मानव मार्गदर्शन के, कई अच्छी तरह सुरक्षित प्रणालियों में पहले से अज्ञात सुरक्षा खामियां खोज सकता है और उनका फायदा उठाने के तरीके विकसित कर सकता है। 27
यह क्षमता अधिकृत सुरक्षा-रक्षा कार्यों में उपयोगी हो सकती है। लेकिन यदि कोई एजेंटिक वर्कफ़्लो अविश्वसनीय सामग्री के जरिए भटक जाए, तो जोखिम भी बढ़ता है: हमलावर एजेंट की खोज, टूल कॉल या प्रस्तावित कार्रवाइयों को प्रभावित करने की कोशिश कर सकता है। संवेदनशील डेटा, कोड रिपॉजिटरी, क्लाउड वातावरण, ब्राउज़र या कारोबारी एप्लिकेशन तक पहुंच होने पर दांव और ऊंचे हो जाते हैं।
अधिक सुरक्षित तैनाती का व्यावहारिक तरीका
प्रॉम्प्ट-इंजेक्शन प्रतिरोध को सुरक्षा की केवल एक परत मानें, अंतिम सुरक्षा-सीमा नहीं। उच्च-प्रभाव वाले एजेंट वर्कफ़्लो में संगठनों को चाहिए कि वे:
- वेबपेज, फाइल, ईमेल और टूल आउटपुट को अविश्वसनीय इनपुट मानें।
- एजेंट की डेटा पहुंच, टूल अनुमतियों और नेटवर्क पहुंच को काम की जरूरत तक सीमित रखें।
- संभव हो तो निष्पादन वातावरण को अलग रखें तथा कोड या ब्राउज़र गतिविधि को सैंडबॉक्स में चलाएं।
- असरदार कार्रवाइयों के लिए स्पष्ट मंजूरी और समीक्षा चरण लागू करें।
- टूल कॉल और एजेंट के निर्णयों का लॉग रखें, और मौजूदा हमलावर तकनीकों के विरुद्ध विशेष मॉडल-टूल संयोजन की लगातार जांच करें।
OpenAI ने अधिक सक्षम प्रणालियों के लिए मजबूत आइसोलेशन, सीमित नेटवर्क व टूल पहुंच, निगरानी और सैंडबॉक्स निष्पादन जैसे सुरक्षा उपायों का वर्णन किया है। 34
निष्कर्ष
तथ्यात्मक गलतियों में बताई गई कमी और प्रत्यक्ष जेलब्रेक के खिलाफ बेहतर प्रतिरोध, Astra को GPT-5.6 Sol का अधिक मजबूत उत्तराधिकारी बनाते हैं। 25
30 फिर भी उपलब्ध सामग्री Claude Opus 5 के मुकाबले इसे हर स्थिति में निर्णायक रूप से अधिक सुरक्षित ठहराने के लिए पर्याप्त नहीं है। और AI एजेंटों की दुनिया में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन अब भी एक वास्तविक, महत्वपूर्ण कमजोरी है।
4
उद्यमों के लिए सीधा सबक है: सबसे मजबूत उपलब्ध मॉडल चुनना जरूरी है, लेकिन आसपास का सिस्टम इस तरह डिजाइन करना भी उतना ही जरूरी है कि कोई दुर्भावनापूर्ण दस्तावेज़ या वेबपेज मॉडल की क्षमताओं और जुड़े टूल को हमलावर के नियंत्रण का माध्यम न बना सके।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"GPT-6 Astra बनाम GPT-5.6 Sol: सुरक्षा बेहतर हुई, पर छिपे प्रॉम्प्ट-इंजेक्शन का खतरा बाकी" का संक्षिप्त उत्तर क्या है?
OpenAI का कहना है कि GPT 6 Astra, GPT 5.6 Sol के मुकाबले कम तथ्यात्मक गलतियां करता है और लंबे हमलावर संवादों सहित जेलब्रेक तथा प्रॉम्प्ट इंजेक्शन के प्रति काफी अधिक मजबूत है।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
OpenAI का कहना है कि GPT 6 Astra, GPT 5.6 Sol के मुकाबले कम तथ्यात्मक गलतियां करता है और लंबे हमलावर संवादों सहित जेलब्रेक तथा प्रॉम्प्ट इंजेक्शन के प्रति काफी अधिक मजबूत है। Gray Swan की IPI Arena में 13 अग्रणी मॉडलों, 41 एजेंट परिदृश्यों और 2,72,000 से अधिक हमले के प्रयासों के बाद कोई भी परीक्षण किया गया मॉडल छिपे प्रॉम्प्ट इंजेक्शन से पूर्णतः सुरक्षित नहीं पाया गया।
मुझे अभ्यास में आगे क्या करना चाहिए?
उपलब्ध सामग्री में GPT 6 Astra और Anthropic के Claude Opus 5 के बीच तथ्यात्मकता या जेलब्रेक प्रतिरोध की कोई प्रत्यक्ष, एक जैसी परिस्थितियों वाली निर्णायक तुलना नहीं है।