उत्तरप्रकाशित23 स्रोत
METR और Redwood की जांच में OpenAI के एजेंट मॉनिटर की कमजोरियां सामने आईं
21 जुलाई से 11 अगस्त 2026 तक चले पायलट में METR और Redwood ने OpenAI की एजेंट निगरानी में कमियां पाईं। इनमें सैकड़ों हालिया कार्रवाइयां मॉनिटर से छिपाने का एक तरीका भी शामिल था। 75%–94% का अनुमान बताता है कि कितना ट्रैफिक निगरानी के दायरे में आने योग्य था—यह इस बात का प्रमाण नहीं कि हर गतिविधि पर नजर रखी गई या हर सम...
प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- 21 जुलाई से 11 अगस्त 2026 तक चले पायलट में METR और Redwood ने OpenAI की एजेंट निगरानी में कमियां पाईं। इनमें सैकड़ों हालिया कार्रवाइयां मॉनिटर से छिपाने का एक तरीका भी शामिल था।
- 75%–94% का अनुमान बताता है कि कितना ट्रैफिक निगरानी के दायरे में आने योग्य था—यह इस बात का प्रमाण नहीं कि हर गतिविधि पर नजर रखी गई या हर समस्या पकड़ी गई।
- 61 पन्नों की पूरी रिपोर्ट OpenAI के साथ साझा की गई। सार्वजनिक जानकारी सीमित रही और समीक्षा ने पायलट की शुरुआत में मौजूद सिस्टम का आकलन किया।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
METR और Redwood Research की तीन हफ्ते की समीक्षा में OpenAI के आंतरिक AI एजेंट मॉनिटर में ऐसी कमजोरियां मिलीं जिनका फायदा उठाकर एजेंट अपनी गतिविधियां निगरानी से बचा सकते थे। एक संभावित तरीके से सैकड़ों हालिया कार्रवाइयां मॉनिटर से छिपाई जा सकती थीं। समीक्षा में निगरानी कवरेज की कमी भी सामने आई। OpenAI ने कहा कि उत्पादन सुरक्षा को प्रभावित करने वाली कमजोरियां ठीक कर दी गई हैं, लेकिन समीक्षकों ने बाद के बदलावों की स्वतंत्र रूप से दोबारा जांच नहीं की। 1
10
21
जांच कैसे हुई
21 जुलाई से 11 अगस्त 2026 के बीच METR और Redwood Research से एक-एक शोधकर्ता OpenAI के परिसर में काम करने पहुंचे। उन्हें कंपनी के आंतरिक कोड, दस्तावेजों, कुछ बुनियादी ढांचे और तकनीकी कर्मचारियों तक पहुंच मिली। उन्होंने OpenAI के दिए उपकरणों का इस्तेमाल किया, जो परिसर से बाहर नहीं गए; उनके काम के दौरान OpenAI के कर्मचारी भी साथ थे। 2
5
7
इस पायलट का मकसद यह परखना था कि मॉनिटर कितनी गतिविधि देख रहा है और क्या एजेंट उसे बंद या चकमा दे सकते हैं। METR के मुताबिक, जांच की 61 पन्नों की पूरी रिपोर्ट OpenAI के शोधकर्ताओं और सुरक्षा कर्मचारियों के साथ साझा की गई। आम लोगों के लिए जारी विवरण पूरी रिपोर्ट नहीं, बल्कि उसका व्यापक सार था। 7
17
क्या कमियां मिलीं
निगरानी हर गतिविधि तक नहीं पहुंच रही थी
METR के अनुमान के मुताबिक, GPT-5.5 जितने सक्षम या उससे अधिक सक्षम मॉडल से आने वाले OpenAI के आंतरिक, एजेंटिक Responses API ट्रैफिक का 75%–94% हिस्सा निगरानी के योग्य था। यह आंकड़ा निगरानी के दायरे में आने की पात्रता का अनुमान है—इससे यह साबित नहीं होता कि उस पूरे हिस्से की वास्तव में निगरानी हुई या हर गड़बड़ी पकड़ी जा सकती थी। 1
6
18
समीक्षा की शुरुआत में रीइन्फोर्समेंट लर्निंग (RL) ट्रेनिंग के दौरान चलाए गए एजेंट रोलआउट्स को गलत व्यवहार के लिए मॉनिटर नहीं किया जा रहा था। 22
मॉनिटर को चकमा देने के संभावित रास्ते
सार्वजनिक विवरणों में कई तरह की कमजोरियों का जिक्र है। इनमें Codex के सैंडबॉक्स को बायपास करने की संभावित गुंजाइश, नए एजेंट इंस्टेंस के लिए निगरानी बंद कर सकने वाले क्लाइंट-नियंत्रित हेडर, और हाल की सैकड़ों कार्रवाइयां मॉनिटर से छिपाने का एक तरीका शामिल है। सार्वजनिक सार में तकनीकी ब्योरा सीमित है, इसलिए इसे पूरी रिपोर्ट में दर्ज निष्कर्षों की संपूर्ण सूची नहीं समझना चाहिए। 1
3
‘कम्पैक्शन’ घटनाओं से निगरानी में अंतर
METR के अनुमान में, कम्पैक्शन घटनाओं पर निगरानी न होने से मई से जुलाई 2026 के बीच पात्र आंतरिक Codex ट्रैफिक का करीब 10% हिस्सा मॉनिटर नहीं हुआ होगा। संस्था ने इस अनुपात के सटीक आंकड़े को लेकर अनिश्चितता भी जताई। निष्कर्षों पर हुई रिपोर्टिंग के अनुसार, OpenAI के कर्मचारियों ने पायलट से पहले इस कमी की पहचान कर ली थी और समीक्षा के दौरान इसे ठीक किया गया। 10
इस समीक्षा से क्या साबित नहीं होता
जांच उस निगरानी व्यवस्था पर केंद्रित थी जो पायलट शुरू होने के समय मौजूद थी। METR ने कहा कि बाद में किए गए बदलावों का उसने मूल्यांकन नहीं किया। इसलिए यह समीक्षा अपने दम पर बाद की कवरेज की पुष्टि नहीं करती और न ही हर सुधार के असर को स्वतंत्र रूप से प्रमाणित करती है। 7
21
22
OpenAI का कहना है कि उत्पादन सुरक्षा को प्रभावित करने वाली कमजोरियां पैच कर दी गई हैं। यह कंपनी की ओर से सुधारों के बारे में दिया गया बयान है—इसका अर्थ यह नहीं कि किसी स्वतंत्र समीक्षक ने पुष्टि कर दी है कि हर कमजोरी दूर हो चुकी है। 21
पायलट क्यों अहम है
इस अभ्यास ने दिखाया कि बाहरी समीक्षकों को कंपनी के भीतर गहरी पहुंच देकर जांच कराने का तरीका कैसा हो सकता है। OpenAI ने बाद में सितंबर में स्वतंत्र समीक्षकों को “कर्मचारियों जैसी पहुंच” देने का वादा किया था। यह पायलट ऐसी पहुंच के एक उदाहरण के रूप में उपयोगी है, लेकिन इसे पूरी तरह सार्वजनिक ऑडिट नहीं मानना चाहिए। 8
28
सबसे स्पष्ट निष्कर्ष यही है: कंपनी के भीतर काम कर रहे बाहरी समीक्षकों ने निगरानी की कमियां और उसे चकमा देने के संभावित रास्ते खोजे; OpenAI ने उत्पादन सुरक्षा पर असर डालने वाले मुद्दों को ठीक करने की बात कही। लेकिन सार्वजनिक जानकारी से यह स्पष्ट नहीं होता कि बाद में निगरानी कितनी व्यापक हुई और सुधारों की पुष्टि स्वतंत्र रूप से किसने की। 7
21
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"METR और Redwood की जांच में OpenAI के एजेंट मॉनिटर की कमजोरियां सामने आईं" का संक्षिप्त उत्तर क्या है?
21 जुलाई से 11 अगस्त 2026 तक चले पायलट में METR और Redwood ने OpenAI की एजेंट निगरानी में कमियां पाईं। इनमें सैकड़ों हालिया कार्रवाइयां मॉनिटर से छिपाने का एक तरीका भी शामिल था।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
21 जुलाई से 11 अगस्त 2026 तक चले पायलट में METR और Redwood ने OpenAI की एजेंट निगरानी में कमियां पाईं। इनमें सैकड़ों हालिया कार्रवाइयां मॉनिटर से छिपाने का एक तरीका भी शामिल था। 75%–94% का अनुमान बताता है कि कितना ट्रैफिक निगरानी के दायरे में आने योग्य था—यह इस बात का प्रमाण नहीं कि हर गतिविधि पर नजर रखी गई या हर समस्या पकड़ी गई।
मुझे अभ्यास में आगे क्या करना चाहिए?
61 पन्नों की पूरी रिपोर्ट OpenAI के साथ साझा की गई। सार्वजनिक जानकारी सीमित रही और समीक्षा ने पायलट की शुरुआत में मौजूद सिस्टम का आकलन किया।