GPT-6 Astra: OpenAI ने क्या लॉन्च किया और इसके दावों का क्या अर्थ है

OpenAI के 3 सितंबर के ऐलान में GPT-6 Astra को कोडिंग, रिसर्च, कंप्यूटर इस्तेमाल और पेशेवर कामों जैसे कठिन, कई चरणों वाले कार्यों के लिए बनाया गया मॉडल बताया गया। कंपनी ने इसे अब तक का अपना सबसे बुद्धिमान और सबसे अधिक aligned मॉडल कहा, लेकिन इसे तुरंत आम लोगों के लिए खोलने के बजाय पहले सीमित संगठनों तक पहुंचाया। 2513

यह लॉन्च सिर्फ बेंचमार्क में कथित बढ़त के कारण अहम नहीं है। OpenAI का कहना है कि Astra उसका पहला मॉडल है जो उसके Preparedness Framework में साइबर-सुरक्षा क्षमता के Critical स्तर तक पहुंचा है। इसी वजह से मॉडल की क्षमताओं और इसके चरणबद्ध रोलआउट को साथ पढ़ना जरूरी है। 1012

मुख्य दावा: ज्यादा सक्षम स्वायत्त काम

OpenAI के मुताबिक, Astra कंप्यूटर उपयोग, वेब ब्राउज़िंग, सॉफ्टवेयर इंजीनियरिंग, साइबर-सुरक्षा, विज्ञान और पेशेवर कामों में अत्याधुनिक प्रदर्शन करता है। डेवलपर दस्तावेजों में इसे जटिल तर्क, कोडिंग, कंप्यूटर उपयोग, रिसर्च और दस्तावेज तैयार करने के लिए उपयुक्त बताया गया है। 1313

कंपनी ने तीन प्रमुख मूल्यांकन नतीजे बताए:

• FrontierMath Tier 4 में 98%
• ARC-AGI-3 में 99.9%
• ExploitBench में 100% 13

ये आंकड़े OpenAI के प्रकाशित मूल्यांकन के हैं; इनकी स्वतंत्र पुनरावृत्ति से पुष्टि नहीं हुई है। ऊंचे बेंचमार्क स्कोर, जिन कार्यों पर परीक्षण हुआ है उनमें प्रगति का उपयोगी संकेत हो सकते हैं, लेकिन वे अपने-आप सामान्य बुद्धिमत्ता, वास्तविक दुनिया में भरोसेमंद निर्णय क्षमता या हर परिस्थिति में सुरक्षित स्वायत्तता साबित नहीं करते।

‘Critical’ साइबर रेटिंग क्यों मायने रखती है

OpenAI का कहना है कि उसके Preparedness Framework के तहत Astra साइबर-सुरक्षा क्षमता के Critical स्तर तक पहुंचने वाला पहला मॉडल है। कंपनी की व्याख्या में इसका अर्थ है कि उपयुक्त टूल और पहुंच मिलने पर मॉडल किसी व्यक्ति के हर कदम निर्देशित किए बिना कई अच्छी तरह सुरक्षित प्रणालियों में पहले से अज्ञात सुरक्षा कमजोरियां पहचान सकता है और उनके दुरुपयोग के नए तरीके विकसित कर सकता है। 1012

इस क्षमता-दावे की दो अहम सीमाएं हैं:

1. यह मॉडल को उपलब्ध टूल और एक्सेस पर निर्भर है।
2. यह वर्गीकरण OpenAI के अपने फ्रेमवर्क और आकलन प्रक्रिया पर आधारित है।

OpenAI का कहना है कि उसने हानिकारक साइबर गतिविधियों के विरुद्ध मजबूत सुरक्षा उपाय जोड़े हैं, जिनमें Astra के रोलआउट के दौरान अतिरिक्त निगरानी भी शामिल है। 510 मॉडल को तुरंत व्यापक रूप से जारी न कर चरणों में पहुंच देने का फैसला भी उसी अतिरिक्त जोखिम के अनुरूप है जिसे कंपनी ने पहचाना है।

‘Aligned’ होना कोई पूर्ण गारंटी नहीं

OpenAI Astra को अपना सबसे अधिक aligned मॉडल भी कहता है और दावा करता है कि यह काम की सीमाओं का बेहतर सम्मान करता तथा अधिक पारदर्शिता से संवाद करता है। 213

इस भाषा को सावधानी से समझना चाहिए। मॉडल रिलीज में aligned का अर्थ खास प्रशिक्षण विधियों और मूल्यांकनों पर प्रदर्शन होता है। यह इस बात की गारंटी नहीं है कि कोई एजेंट हर बार उपयोगकर्ता की मंशा सही समझेगा, हर परिचालन सीमा में रहेगा या मानव समीक्षा के बिना तैनात करना सुरक्षित होगा। OpenAI के रिलीज नोट्स में भी कहा गया है कि Astra में ऐसी स्थितियों की पहचान के लिए अतिरिक्त निगरानी है, जहां एजेंट ने निर्देशों का गलत अर्थ निकाला हो। 5

एजेंट-आधारित उपयोग पर विचार कर रहे संगठनों के लिए व्यावहारिक सवाल यह नहीं है कि मॉडल को aligned कहा गया है या नहीं। असली सवाल हैं: उसे कौन-सी अनुमतियां मिलेंगी, किन कार्रवाइयों के लिए मानवीय मंजूरी जरूरी होगी, गतिविधियों का लॉग कैसे बनेगा और अनपेक्षित व्यवहार पर प्रणाली कितनी जल्दी रोकी जा सकेगी।

बदले हुए बेंचमार्क और निगरानी की चिंताएं: क्या पुष्टि होती है

उपलब्ध सामग्री में कुछ मूल्यांकन आंकड़ों पर बाद में जोड़ी गई शर्तों का उल्लेख है। इनमें बेंचमार्क संदूषण की आशंका और विशेष एक्सेस कॉन्फ़िगरेशन व डिफॉल्ट प्रोडक्शन एक्सेस के फर्क से जुड़े सवाल शामिल हैं। सामग्री यह भी बताती है कि कुछ परीक्षणों में केवल chain-of-thought पर आधारित निगरानी, अधिक व्यापक संदर्भ वाली निगरानी से कम प्रभावी रही।

हालांकि, उपलब्ध प्राथमिक स्रोत अंश सभी बताए गए नतीजों का पूरा, स्वतंत्र रूप से ऑडिट किया जा सकने वाला संशोधन-इतिहास या निगरानी पद्धति का पूरा विवरण नहीं देते। इसलिए सीमित और जिम्मेदार निष्कर्ष यही है: प्रमुख बेंचमार्क अंक और सुरक्षा मूल्यांकन को रिलीज के साथ बदलते साक्ष्य के रूप में देखना चाहिए। किसी खास स्कोर या तैनाती-दावे पर निर्भर होने से पहले पाठकों को मौजूदा मॉडल दस्तावेज और सुरक्षा सामग्री देखनी चाहिए। 2310

Hugging Face घटना ने जोखिम को और महत्वपूर्ण बनाया

लॉन्च से पहले OpenAI मॉडलों से जुड़ी एक सुरक्षा-परीक्षण घटना हुई थी, जिसके बारे में कंपनी का कहना है कि उसने Astra की सुरक्षा रणनीति को प्रभावित किया। OpenAI की रिलीज सामग्री के अनुसार, उस घटना में Astra शामिल नहीं था और उससे मिले सबक को कंपनी ने अपने सुरक्षा उपायों में शामिल किया है। 10

यह संदर्भ इसलिए अहम है क्योंकि स्वायत्त प्रणालियां मॉडल की क्षमता को ब्राउज़र, कोड टूल और अन्य सॉफ्टवेयर के जरिए कार्रवाई करने की क्षमता से जोड़ती हैं। किसी मॉडल की उपयोगिता उसी की विभिन्न प्रणालियों में काम करने की क्षमता से बढ़ती है; लेकिन यही गुण नियंत्रण, न्यूनतम आवश्यक अनुमति और निगरानी की जरूरत भी बढ़ाता है।

किसे एक्सेस मिलेगा और कीमत क्या है?

OpenAI ने कहा कि Astra का शुरुआती रोलआउट सीमित संगठनों के लिए है और बाद में इसे अधिक व्यापक रूप से उपलब्ध कराने की योजना है। 513

डेवलपर्स के लिए OpenAI ने GPT-6 Astra की कीमत 10 डॉलर प्रति 10 लाख इनपुट टोकन और 50 डॉलर प्रति 10 लाख आउटपुट टोकन सूचीबद्ध की है। मॉडल पेज में 10.5 लाख टोकन की कॉन्टेक्स्ट विंडो और अधिकतम 1,28,000 आउटपुट टोकन भी बताए गए हैं। 3

ChatGPT में पहुंच अलग-अलग स्तरों में और धीरे-धीरे दी जा रही है। OpenAI के हेल्प दस्तावेज के अनुसार, Astra से संचालित GPT-6 Pro, Pro 100 डॉलर, Pro 200 डॉलर, Business और Enterprise प्लान के लिए रोलआउट में है। Plus प्लान को रोलआउट आगे बढ़ने पर ChatGPT Work और Codex में Astra मिलता है। उपलब्धता ChatGPT के अलग-अलग उत्पादों और वर्कस्पेस सेटिंग्स के अनुसार बदल सकती है। 6

व्यावहारिक निष्कर्ष

GPT-6 Astra का लॉन्च दो ऐसे संदेशों को साथ रखता है जिन्हें अलग नहीं किया जाना चाहिए: OpenAI जटिल, एजेंट-आधारित कामों में बड़ी प्रगति का दावा कर रहा है और साथ ही मॉडल की साइबर क्षमता को अपने सबसे ऊंचे घोषित जोखिम स्तर पर रखता है। 1013

लॉन्च के बेंचमार्क बताते हैं कि OpenAI के अनुसार Astra ने उसके मूल्यांकनों में क्या किया। चरणबद्ध एक्सेस, अतिरिक्त निगरानी और साइबर प्रतिबंध यह संकेत देते हैं कि कंपनी भी इन क्षमताओं को सामान्य नहीं मानती। मॉडल का आकलन कर रही टीमों को नियंत्रित तैनाती पर ध्यान देना चाहिए: सीमित दायरे वाले टूल, अहम कार्रवाइयों के लिए स्पष्ट मंजूरी-चरण, अलग-थलग वातावरण और समीक्षा योग्य लॉग। बेंचमार्क प्रदर्शन को अपने-आप भरोसेमंद स्वायत्तता मान लेना उचित नहीं होगा।