उत्तरप्रकाशित27 स्रोत
OpenAI का ऑटोमेटेड रेड-टीमिंग सिस्टम: 7 लाख GPU घंटे तक GPT-5.6 को तोड़ने की कोशिश
OpenAI का 'GPT Red' नाम का कोई अधिकारिक सिस्टम नहीं है। असली तकनीक इसका ऑटोमेटेड रेड टीमिंग फ्रेमवर्क है, जो रीइन्फोर्समेंट लर्निंग और सेल्फ प्ले का उपयोग करके एडवरसैरियल अटैक जनरेट करता है [5]। GPT 5.6 के तीनों वेरिएंट्स (Sol, Terra, Luna) को साइबर सुरक्षा और जैविक/रासायनिक जोखिम में 'हाई' क्षमता वाला माना गया है,...
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What is OpenAI's GPT-Red system, how does it use self-play to automate red-teaming for prompt inj. Article summary: *There is no publicly documented system called "GPT-Red" from OpenAI.** The searches did not return any official OpenAI page, paper, or announcement referencing a system by that specific name. The closest matching concep. Topic tags: general, academic, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, w
OpenAI ने आधिकारिक तौर पर कभी 'GPT-Red' नाम का कोई सिस्टम जारी नहीं किया है। यह नाम कंपनी के किसी भी आधिकारिक पेपर, सिस्टम कार्ड, ब्लॉग पोस्ट या नौकरी की लिस्टिंग में नहीं पाया जाता है। असल में जो मौजूद है, वह एक शक्तिशाली और तेजी से स्वचालित होता रेड-टीमिंग फ्रेमवर्क है, जो रीइन्फोर्समेंट लर्निंग (RL) और सेल्फ-प्ले का उपयोग करके मॉडलों में प्रॉम्प्ट इंजेक्शन, जेलब्रेक और अन्य कमज़ोरियाँ खोजता है । GPT-5.6 की सुरक्षा जाँच में इस फ्रेमवर्क ने अहम भूमिका निभाई, जिसमें मॉडल के सामान्य उपलब्धता से पहले 7,00,000 GPU घंटे से अधिक का ऑटोमेटेड एडवरसैरियल टेस्टिंग किया गया
।
OpenAI वास्तव में क्या उपयोग करता है: एक RL-आधारित ऑटोमेटेड रेड-टीमिंग फ्रेमवर्क
OpenAI का ऑटोमेटेड रेड-टीमिंग दृष्टिकोण 'Diverse and Effective Red Teaming with Auto-generated Rewards' (14 जुलाई, 2026) नामक पेपर में प्रलेखित है । यह सिस्टम रेड-टीमिंग समस्या को दो चरणों में विभाजित करता है:
- विविध अटैक लक्ष्यों का स्वचालित निर्माण - सिस्टम परीक्षण के लिए विभिन्न प्रकार के एडवरसैरियल उद्देश्य बनाता है।
- मल्टी-स्टेप रीइन्फोर्समेंट लर्निंग का उपयोग करके प्रभावी अटैक जनरेशन - एक अटैकर मॉडल को उन लक्ष्यों को पूरा करने वाले सफल अटैक बनाने पर पुरस्कृत करके प्रशिक्षित किया जाता है
।
यह विधि सेल्फ-प्ले का उपयोग करती है, जहाँ एक LLM-आधारित ऑटोमेटेड अटैकर टार्गेट मॉडल में प्रॉम्प्ट इंजेक्शन और जेलब्रेक जैसी कमज़ोरियाँ खोजता है । OpenAI का कहना है कि RL-संचालित यह दृष्टिकोण सक्रिय रूप से एक्सप्लॉइट्स को खोजने और उन्हें ठीक करने में मदद करता है, इससे पहले कि उनका इस्तेमाल किया जा सके
। कंपनी प्रॉम्प्ट इंजेक्शन को एक 'सीमावर्ती सुरक्षा चुनौती' बताती है और नए प्रॉम्प्ट इंजेक्शन अटैक विकसित करने के लिए ऑटोमेटेड रेड-टीमिंग का सक्रिय रूप से उपयोग करती है
।
GPT-5.6 का 7,00,000 GPU-घंटे का ब्लैक-बॉक्स परीक्षण
GPT-5.6 के सामान्य उपलब्धता (GA) में आने से पहले, OpenAI ने मॉडल को अब तक की सबसे व्यापक मूल्यांकन अवधि के अधीन किया । GPT-5.6 प्रीव्यू सिस्टम कार्ड में कहा गया है: 'हमने स्वचालित रूप से यूनिवर्सल जेलब्रेक और अन्य कमज़ोरियाँ खोजने के लिए 7,00,000 A100e GPU घंटे से अधिक समर्पित किए हैं'
। यह स्वचालित परीक्षण हफ्तों के मानव रेड-टीमिंग और बाहरी डोमेन-विशेषज्ञ मूल्यांकनों का पूरक था
।
GPT-5.6 के जोखिम रेटिंग: 'हाई' लेकिन 'क्रिटिकल' से नीचे
OpenAI के प्रिपेयर्डनेस फ्रेमवर्क के तहत, GPT-5.6 के तीनों वेरिएंट्स - Sol (फ्लैगशिप), Terra (कम लागत) और Luna (सबसे तेज़) - को साइबर सुरक्षा और जैविक/रासायनिक जोखिम दोनों में 'हाई' क्षमता वाला वर्गीकृत किया गया है । यह पहली बार है जब छोटे, सस्ते मॉडल भी इन श्रेणियों के लिए 'हाई' सीमा को पार कर गए हैं
। हालांकि, कोई भी मॉडल 'क्रिटिकल' सीमा तक नहीं पहुँचा
।
बहु-स्तरीय सुरक्षा स्टैक
GPT-5.6 OpenAI के अब तक के 'सबसे मजबूत सुरक्षा उपायों' के साथ आता है । इस सुरक्षा आर्किटेक्चर में शामिल हैं:
- उच्च जोखिम वाले अनुरोधों के लिए बिल्ट-इन मॉडल-स्तरीय रिफ्यूज़ल
- रीयल-टाइम एक्टिवेशन क्लासिफायर जो इन्फ्रेंस के दौरान आंतरिक न्यूरल सिग्नल की जाँच करते हैं
- साइबर और बायोलॉजी दुरुपयोग के लिए रीयल-टाइम क्लासिफायर
- अकाउंट-स्तरीय समीक्षा और डिफरेंशियल एक्सेस कंट्रोल
ऑटोमेटेड रेड टीमिंग (ART) रिसर्चर भूमिका
OpenAI अपनी ऑटोमेटेड रेड-टीमिंग क्षमताओं का विस्तार कर रहा है। कंपनी एक 'Researcher, Automated Red Teaming' (आधार वेतन $295K–$445K) की भर्ती कर रही है ।
$500,000 का Kaggle चैलेंज
OpenAI ने अपने ओपन-वेट मॉडल gpt-oss-120b और gpt-oss-20b के लिए Kaggle पर $500,000 के पुरस्कार पूल के साथ एक रेड-टीमिंग चैलेंज की मेज़बानी की । यह प्रतियोगिता प्रतिभागियों को पहले से अज्ञात कमज़ोरियाँ खोजने के लिए प्रोत्साहित करती है
।
Studio Global AI
Search, cite, and publish your own answer
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
लोग पूछते भी हैं
"OpenAI का ऑटोमेटेड रेड-टीमिंग सिस्टम: 7 लाख GPU घंटे तक GPT-5.6 को तोड़ने की कोशिश" का संक्षिप्त उत्तर क्या है?
OpenAI का 'GPT Red' नाम का कोई अधिकारिक सिस्टम नहीं है। असली तकनीक इसका ऑटोमेटेड रेड टीमिंग फ्रेमवर्क है, जो रीइन्फोर्समेंट लर्निंग और सेल्फ प्ले का उपयोग करके एडवरसैरियल अटैक जनरेट करता है [5]।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
OpenAI का 'GPT Red' नाम का कोई अधिकारिक सिस्टम नहीं है। असली तकनीक इसका ऑटोमेटेड रेड टीमिंग फ्रेमवर्क है, जो रीइन्फोर्समेंट लर्निंग और सेल्फ प्ले का उपयोग करके एडवरसैरियल अटैक जनरेट करता है [5]। GPT 5.6 के तीनों वेरिएंट्स (Sol, Terra, Luna) को साइबर सुरक्षा और जैविक/रासायनिक जोखिम में 'हाई' क्षमता वाला माना गया है, लेकिन ये 'क्रिटिकल' स्तर से नीचे हैं [11][15][24]।
मुझे अभ्यास में आगे क्या करना चाहिए?
कंपनी ऑटोमेटेड रेड टीमिंग (ART) के लिए एक नए रिसर्चर की भर्ती कर रही है, जिसका वेतन $295K $445K है [2][45][47]।
सूत्र
- cdn.openai.com[PDF] Diverse and Effective Red Teaming with Auto-generated Rewards ...
- openai.comContinuously hardening ChatGPT Atlas against prompt ...
- deploymentsafety.openai.comGPT-5.6 Preview System Card - Deployment Safety Hub - OpenAI
- medium.comHacking the 20B Beast: Inside OpenAI's GPT-OSS Red ...
- openai.comUnderstanding prompt injections: a frontier security challenge | OpenAI
- huggingface.coUncovering Systemic Fragility via Adversarial Roleplay & ...
- themoonlight.io[论文审查] Red Teaming the Mind of the Machine: A Systematic Evaluation of Prompt Injection and Jailbreak Vulnerabilities in LLMs
- deploymentsafety.openai.comGPT-5.6 System Card - Deployment Safety Hub - OpenAI
- youtube.comOpenAI GPT-5.6 Revealed! Sol, Terra & Luna Explained | AI Safety Just Changed Forever
- control-plane.ioOpenAI: Red Teaming GPT-4o, Operator, o3-mini, and Deep Research
- openai.comGPT-5.6: Frontier intelligence that scales with your ambition
- openai.comImproving Robustness With...
- moomoo.comMicrosoft-backed OpenAI Shows GPT-5.6 Artificial Intelligence Model Capabilities
- arxiv.orgLearning-Based Automated Adversarial Red-Teaming for ... - arXiv
- openai.comSafety & responsibility | OpenAI
- jobs.ashbyhq.comResearcher, Automated Red Teaming @ OpenAI - Jobs
- techpolicy.pressWhat OpenAI's Latest Red-Teaming Challenge Reveals ...
- arxiv.orgAssessing Prompt Injection Risks in 200+ Custom GPTs - arXiv
- enterpriseai.economictimes.indiatimes.comOpenAI unveils GPT-5.6 family with limited rollout to trusted ...
- ai-stack.aiGPT-5.6 Locked Down: U.S. AI Gatekeeping Era Begins — 4 ...
- linkedin.comOpenAI Releases GPT-5.6 Sol with Enhanced Safety and Capabilities
- youtube.comOpenAI GPT-5.6 Sol Preview: Benchmarks, Pricing, and ...
- builtinsf.comBiosafety Red Teaming Specialist - OpenAI
- arxiv.orgA Systematic Evaluation of Prompt Injection and Jailbreak ...
- arxiv.orgOpenAI's Approach to External Red Teaming for AI Models ... - arXiv
- trydeepteam.comRed Teaming OpenAI Models
- openreview.netAUTOMATED RED-TEAMING FOR THE SAFETY OF LLM- ...