उत्तरप्रकाशित13 स्रोत
Sampura Research: AI को AI से जज कराने के बजाय इंसानी निगरानी पर जोर
Sampura Research की स्थापना पूर्व Google DeepMind शोधकर्ताओं Rishub Jain और Josh Jacob ने की है; संस्था के अपने ऐलान में Alex Adams को संस्थापक नहीं बताया गया है। इसका सार्वजनिक लॉन्च 25 अगस्त 2026 को हुआ और Coefficie... संस्था का तर्क है कि AI से AI की निगरानी तेज और सस्ती हो सकती है, लेकिन इंसान अब भी AI की असमान...
प्रकाशितकर्ताGPT-5.6 Luna से संपादितGPT Image 1.5 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- Sampura Research की स्थापना पूर्व Google DeepMind शोधकर्ताओं Rishub Jain और Josh Jacob ने की है; संस्था के अपने ऐलान में Alex Adams को संस्थापक नहीं बताया गया है। इसका सार्वजनिक लॉन्च 25 अगस्त 2026 को हुआ और Coefficie...
- संस्था का तर्क है कि AI से AI की निगरानी तेज और सस्ती हो सकती है, लेकिन इंसान अब भी AI की असमान विफलताओं, मिलीभगत जैसे जोखिमों और बदलते मानवीय मूल्यों को पहचानने में अलग तरह की उपयोगी भूमिका निभाते हैं। [4]
- Sampura ऐसे हाइब्रिड ‘जज’ बनाना चाहती है जो AI और इंसानों को मिलाकर यह जांचें कि किसी मॉडल का जवाब या एजेंट का व्यवहार सही और सुरक्षित है या नहीं। [4]
- पहले छह महीनों में संस्था 20 से अधिक उप डेटासेट वाला सार्वजनिक, लगातार अपडेट होने वाला लीडरबोर्ड बनाने की योजना रखती है, जिसमें धोखे की पहचान, सांस्कृतिक पक्षपात और असुरक्षित एजेंट व्यवहार जैसे परीक्षण शामिल होंगे। [4]
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Sampura Research, the London based nonprofit launched on August 24, 2026 by former Google DeepMind researchers Rishub Jain, Joshua J. Article summary: Sampura Research is a London AI safety nonprofit founded by former Google DeepMind researchers Rishub Jain and Josh Jacob—not, based on its own announcement, by Alex Adams.. Topic tags: general web, ai safety, openai, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and
लंदन स्थित Sampura Research एक नई गैर-लाभकारी संस्था है, जिसे पूर्व Google DeepMind शोधकर्ताओं Rishub Jain और Josh Jacob ने शुरू किया है। संस्था का सार्वजनिक ऐलान 25 अगस्त 2026 को हुआ। इसके लिए Coefficient Giving ने 11 मिलियन डॉलर की शुरुआती ग्रांट प्रतिबद्ध की है—पहले वर्ष के लिए 7 मिलियन डॉलर और आगे के लिए 4 मिलियन डॉलर। संस्था के आधिकारिक ऐलान में Alex Adams को संस्थापक नहीं बताया गया; उन्हें घोषणा पर प्रतिक्रिया देने वालों में श्रेय दिया गया है। 4
‘AI, AI की निगरानी करे’ मॉडल से असहमति क्यों?
AI सुरक्षा में scalable oversight का मतलब है—ऐसी निगरानी व्यवस्था बनाना जो बेहद शक्तिशाली और तेज़ी से काम करने वाले मॉडलों पर भी प्रभावी रहे। उद्योग में इसका एक आम रास्ता यह है कि बड़े भाषा मॉडल (LLM) को दूसरे AI सिस्टम के जवाबों या कामकाज का ‘जज’ बना दिया जाए। यह तरीका इंसानी समीक्षा की तुलना में तेज़ और कम खर्चीला हो सकता है।
Sampura का कहना है कि केवल AI को ही निगरानी सौंपना जोखिमपूर्ण हो सकता है। इंसानों में कुछ ऐसी क्षमताएं हैं जो AI जजों की कमजोरियों के लिए स्वतंत्र जांच का काम कर सकती हैं:
- AI की ‘जैग्ड’ यानी असमान क्षमताओं से पैदा होने वाली अजीब या अप्रत्याशित गलतियों को पकड़ना;
- मॉडल और उसे जांचने वाले AI जज के बीच संभावित मिलीभगत के खिलाफ स्वतंत्र समीक्षा देना;
- ऐसे नए या बदलते मानवीय मूल्यों पर विचार करना, जिनके लिए पहले से स्पष्ट नियम उपलब्ध नहीं हैं।
4
इसका अर्थ यह नहीं है कि हर AI जवाब को इंसान हाथ से जांचे। विचार यह है कि इंसानों को उन्हीं मामलों में शामिल किया जाए जहां उनकी समीक्षा से सुरक्षा में सबसे अधिक लाभ मिल सकता है।
हाइब्रिड ‘जज’ कैसे काम करेंगे?
Sampura के अनुसार, जज कोई इंसान, AI या दोनों का संयुक्त सिस्टम हो सकता है, जो यह आकलन करे कि AI का जवाब या किसी एजेंट की पूरी कार्य-श्रृंखला सही, सुरक्षित और निर्देशों के अनुरूप है या नहीं।
प्रस्तावित व्यवस्था में कई स्तर हो सकते हैं:
- AI जज अपने निर्णय के साथ विश्वास-स्तर बताए।
- कम-विश्वास या जटिल मामलों को इंसानी समीक्षक के पास भेजा जाए।
- एक ‘राउटर’ तय करे कि कौन-सा काम इंसान करेगा और कौन-सा AI।
- इंसानों को उनके विशेष कार्य के अनुरूप AI सहायता दी जाए।
इस तरह इंसान और AI एक-दूसरे के विकल्प के बजाय पूरक बनेंगे। असली परीक्षा यह होगी कि यह व्यवस्था सुरक्षा, गति और लागत के बीच संतुलन कितनी अच्छी तरह बना पाती है। 4
डेटासेट और सार्वजनिक लीडरबोर्ड की योजना
Sampura अपने शुरुआती छह महीने बेहतर AI जज तैयार करने पर केंद्रित करना चाहती है। इसके लिए संस्था 20 से अधिक उप-डेटासेट वाला एक सार्वजनिक और लगातार अपडेट होने वाला लीडरबोर्ड बनाने की योजना रखती है। इनमें संभावित रूप से ये क्षेत्र शामिल होंगे:
- धोखे या भ्रामक व्यवहार की पहचान;
- सांस्कृतिक पक्षपात;
- बच्चों के साथ असुरक्षित बातचीत;
- असुरक्षित AI एजेंट कार्रवाइयां;
- साथी या ‘कम्पैनियन’ AI पर अस्वस्थ निर्भरता।
महत्वपूर्ण बात यह है कि जजों को केवल स्थिर उदाहरणों पर नहीं परखा जाएगा। Sampura यह भी देखना चाहती है कि जब किसी AI मॉडल को reinforcement learning के दौरान अपने जज को ‘गेम’ करने या उसके हिसाब से रणनीति बदलने का अवसर मिले, तब जज कितने विश्वसनीय रहते हैं। इसे reward hacking के जोखिम की जांच के रूप में देखा जा सकता है।
संस्था ने शोध-पत्रों, कोड, डेटासेट और लीडरबोर्ड को सार्वजनिक रूप से जारी करने की योजना बताई है। इससे बाहरी शोधकर्ता उसके तरीकों की समीक्षा और स्वतंत्र परीक्षण कर सकेंगे। 4
केवल जवाबों की जांच नहीं, नियमों की भी समीक्षा
Sampura का शोध एजेंडा आगे चलकर केवल AI के आउटपुट को जज करने तक सीमित नहीं रहेगा। संस्था उन निर्देशों, मूल्यांकन-मानदंडों और परीक्षण मामलों को बनाने तथा जांचने पर भी काम करना चाहती है, जिनके आधार पर AI का आकलन किया जाता है।
यह दिशा महत्वपूर्ण है क्योंकि खराब या अधूरे परीक्षण खुद कई विफलताओं को छिपा सकते हैं। बेहतर टेस्ट केस और रूब्रिक भविष्य के जोखिमों को पहले पहचानने में मदद कर सकते हैं। फिर भी, यह एक प्रस्तावित शोध कार्यक्रम है—इससे अभी यह साबित नहीं होता कि संस्था शक्तिशाली AI सिस्टम को नियंत्रित या ‘कंटेन’ कर चुकी है। 4
असली तैनाती में सफलता कैसे मापी जाएगी?
Sampura के लिए केवल बेहतर स्कोर हासिल करना पर्याप्त नहीं होगा। उसे यह भी दिखाना होगा कि बेहतर जज वास्तव में AI के खतरनाक व्यवहार को कम करते हैं। संस्था जिन सवालों पर काम करना चाहती है, उनमें शामिल हैं:
- क्या बेहतर जज reward hacking को सचमुच कम करते हैं?
- मॉडल बदलने पर जज को दोबारा प्रशिक्षित करने की जरूरत कब पड़ती है?
- इंसानी समीक्षा को किस बिंदु पर शामिल करने से सुरक्षा और लागत का सबसे अच्छा संतुलन बनता है?
- क्या इस व्यवस्था को प्रशिक्षण, स्वतंत्र मूल्यांकन और तैनाती के बाद निगरानी—तीनों चरणों में इस्तेमाल किया जा सकता है?
शुरुआत में तीसरे पक्ष के मूल्यांकनकर्ताओं के साथ इसका तनाव-परीक्षण किया जा सकता है। आगे चलकर लक्ष्य frontier AI labs के प्रशिक्षण, मूल्यांकन और मॉनिटरिंग सिस्टम में इसका इस्तेमाल हो सकता है। 4
AI-सुरक्षा विशेषज्ञों की कमी इस योजना को क्यों महत्वपूर्ण बनाती है?
मानवीय निगरानी बढ़ाने की सबसे बड़ी व्यावहारिक अड़चन यह है कि अनुभवी AI मूल्यांकनकर्ताओं की संख्या सीमित है। उदाहरण के लिए, Model Evaluation and Threat Research (METR) की एक प्रकाशित Evaluation Execution भूमिका में सालाना 285,548 से 503,116 डॉलर तक का बेस पे दिया गया है और असाधारण उम्मीदवारों के लिए इससे अधिक भुगतान की संभावना भी बताई गई है।
इसके बावजूद इस क्षेत्र में भर्ती कठिन बनी हुई है। ऐसे माहौल में Sampura का लंदन में संस्थापक तकनीकी कर्मचारियों की भर्ती करना रणनीतिक रूप से अहम है। हालांकि उपलब्ध प्राथमिक स्रोत में यह पुष्टि नहीं है कि संस्था निश्चित रूप से कम-से-कम छह लोगों को 100,000 से 290,000 पाउंड के वेतन पर नियुक्त करेगी। आधिकारिक घोषणा केवल लंदन में founding technical staff की भर्ती की बात कहती है। 4
1,100 से अधिक AI पेशेवरों की ‘धीमा करने’ की अपील से संबंध
जुलाई 2026 में 1,100 से अधिक frontier-AI पेशेवरों ने एक खुले पत्र पर हस्ताक्षर किए। पत्र में ऐसी अंतरराष्ट्रीय तकनीकी और शासन-व्यवस्था बनाने की अपील की गई थी, जो जरूरत पड़ने पर AI विकास की गति धीमी कर सके—खासकर तब, जब विकास सुरक्षित मानवीय निगरानी से आगे निकलने लगे। 1
Sampura का काम इस मांग का एक संभावित तकनीकी हिस्सा हो सकता है: अगर मूल्यांकन अधिक विश्वसनीय, पारदर्शी और ऑडिट योग्य हों, तो यह तय करना आसान हो सकता है कि कोई मॉडल सुरक्षित निगरानी की सीमा से आगे बढ़ रहा है या नहीं।
लेकिन Sampura अपने दम पर कानून लागू करने की शक्ति, अंतरराष्ट्रीय समन्वय, कंपनियों के मॉडल तक पहुंच या विकास रोकने का अधिकार नहीं बना सकती। इसलिए इसका काम शासन-व्यवस्था का विकल्प नहीं, बल्कि उसका पूरक है।
DeepMind से विदाई और ‘कंटेनमेंट’ का सवाल
Rishub Jain का DeepMind छोड़ना कंपनी से शोधकर्ताओं के व्यापक पलायन की खबरों के बीच हुआ। हालांकि ‘छह दिनों में पांच core researchers के जाने’ वाला विवरण कम विश्वसनीय द्वितीयक रिपोर्टिंग से आया प्रतीत होता है और इसे स्वतंत्र रूप से स्थापित तथ्य नहीं माना जाना चाहिए। 5
इसी तरह, उपलब्ध प्रमाणों से यह व्यापक निष्कर्ष भी साबित नहीं होता कि AI कंपनियां ‘जो बना चुकी हैं, उसे कंटेन नहीं कर सकतीं’। अधिक सावधानीपूर्ण निष्कर्ष यह है कि:
- तेजी से सक्षम होते AI मॉडलों की मजबूत निगरानी अभी सिद्ध नहीं हुई है;
- AI मूल्यांकन का अनुभवी प्रतिभा-समूह दुर्लभ है;
- और Sampura इंसानी भागीदारी को अधिक स्केलेबल और मजबूत बनाने की कोशिश कर रही है, बजाय इसके कि AI को अकेले AI का सुरक्षित पर्यवेक्षक मान लिया जाए।
यानी Sampura Research का वादा किसी तैयार सुरक्षा-कवच का नहीं, बल्कि यह जांचने का है कि इंसानों और AI की क्षमताओं को साथ जोड़कर निगरानी को कितना बेहतर बनाया जा सकता है।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"Sampura Research: AI को AI से जज कराने के बजाय इंसानी निगरानी पर जोर" का संक्षिप्त उत्तर क्या है?
Sampura Research की स्थापना पूर्व Google DeepMind शोधकर्ताओं Rishub Jain और Josh Jacob ने की है; संस्था के अपने ऐलान में Alex Adams को संस्थापक नहीं बताया गया है। इसका सार्वजनिक लॉन्च 25 अगस्त 2026 को हुआ और Coefficie...
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
Sampura Research की स्थापना पूर्व Google DeepMind शोधकर्ताओं Rishub Jain और Josh Jacob ने की है; संस्था के अपने ऐलान में Alex Adams को संस्थापक नहीं बताया गया है। इसका सार्वजनिक लॉन्च 25 अगस्त 2026 को हुआ और Coefficie... संस्था का तर्क है कि AI से AI की निगरानी तेज और सस्ती हो सकती है, लेकिन इंसान अब भी AI की असमान विफलताओं, मिलीभगत जैसे जोखिमों और बदलते मानवीय मूल्यों को पहचानने में अलग तरह की उपयोगी भूमिका निभाते हैं। [4]
मुझे अभ्यास में आगे क्या करना चाहिए?
Sampura ऐसे हाइब्रिड ‘जज’ बनाना चाहती है जो AI और इंसानों को मिलाकर यह जांचें कि किसी मॉडल का जवाब या एजेंट का व्यवहार सही और सुरक्षित है या नहीं। [4]