उत्तरप्रकाशित16 स्रोत
Sampura Research का AI सुरक्षा दांव: निगरानी से इंसानों को हटाना नहीं, बेहतर ‘जज’ बनाना
Sampura Research ने सार्वजनिक रूप से 25 अगस्त 2026 को शुरुआत की। संस्था बढ़ती क्षमता वाले AI मॉडलों के मूल्यांकन के लिए मानव AI हाइब्रिड सिस्टम बना रही है। संस्था का तर्क है कि केवल AI से निगरानी कराने पर नई तरह की गलतियां छूट सकती हैं, मूल्यांकनकर्ता को गुमराह किया जा सकता है और मानवीय व AI त्रुटियां एक दूसरे से मि...
प्रकाशितकर्ताGPT-5.6 Luna से संपादितGPT Image 1.5 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- Sampura Research ने सार्वजनिक रूप से 25 अगस्त 2026 को शुरुआत की। संस्था बढ़ती क्षमता वाले AI मॉडलों के मूल्यांकन के लिए मानव AI हाइब्रिड सिस्टम बना रही है।
- संस्था का तर्क है कि केवल AI से निगरानी कराने पर नई तरह की गलतियां छूट सकती हैं, मूल्यांकनकर्ता को गुमराह किया जा सकता है और मानवीय व AI त्रुटियां एक दूसरे से मिल सकती हैं।
- पहले छह महीनों में 20 से अधिक सबडेटासेट वाला ‘जज’ लीडरबोर्ड तैयार किया जाएगा, जिसमें मानव, केवल AI और हाइब्रिड मूल्यांकन प्रणालियों की तुलना होगी।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Sampura Research, the London-based nonprofit formally launched on August 24, 2026 by former Google DeepMind researchers Rishub Jain,. Article summary: Sampura Research is a London-based AI-safety nonprofit developing “human–AI complementarity for scalable oversight”: systems in which people and AI jointly evaluate increasingly capable models rather than delegating over. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
असली सवाल: AI को सही और सुरक्षित कौन बताएगा?
लंदन स्थित AI-सुरक्षा गैर-लाभकारी संस्था Sampura Research एक बुनियादी लेकिन कठिन सवाल पर काम कर रही है: जैसे-जैसे AI सिस्टम अधिक सक्षम होते जाएंगे, यह फैसला कौन करेगा कि उनका व्यवहार सही, सुरक्षित और मानवीय उद्देश्यों के अनुरूप है?
Sampura का जवाब है—इंसानों को निगरानी से हटाना नहीं, बल्कि ऐसी व्यवस्था बनाना जिसमें मानव और AI मिलकर निगरानी की जिम्मेदारी निभाएं। संस्था के अनुसार उसे Coefficient Giving से शुरुआती 1.1 करोड़ डॉलर का अनुदान मिला है। इसमें पहले वर्ष के लिए 70 लाख डॉलर और आगे के लिए 40 लाख डॉलर की प्रतिबद्धता शामिल है। 1
संस्था की सार्वजनिक घोषणा की तारीख 25 अगस्त 2026 है, 24 अगस्त नहीं। घोषणा में Rishub Jain और Josh Jacob को संस्थापक बताया गया है। पहले सोशल मीडिया पोस्ट में Alex Adams के साथ काम का उल्लेख था, लेकिन उपलब्ध आधिकारिक घोषणा यह साबित नहीं करती कि तीनों औपचारिक रूप से सह-संस्थापक हैं। 1
12
‘जज’ से Sampura का क्या मतलब है?
Sampura की भाषा में जज वह व्यक्ति, AI मॉडल या हाइब्रिड सिस्टम है, जो किसी दूसरे AI सिस्टम के व्यवहार की शुद्धता और alignment—यानी तय उद्देश्यों व मूल्यों के अनुरूपता—का आकलन करता है। यह आकलन किसी एक जवाब, पूरी बातचीत या कई चरणों में काम करने वाले AI एजेंट की गतिविधियों पर हो सकता है। 1
यह अंतर महत्वपूर्ण है। किसी मॉडल का जवाब धाराप्रवाह हो सकता है और वह जटिल काम भी पूरा कर सकता है, फिर भी वह अपने मूल्यांकनकर्ता को गुमराह कर सकता है, reward function की कमजोरियों का फायदा उठा सकता है या कई चरणों वाले काम के दौरान असुरक्षित कदम उठा सकता है। Sampura का शोध ऐसे ही छूटे हुए जोखिमों को पहचानने वाली प्रणालियों को बेहतर बनाने पर केंद्रित है।
संस्था इसे “स्केलेबल ओवरसाइट के लिए मानव-AI पूरकता” कहती है—जहां स्वचालन भरोसेमंद हो, वहां AI का इस्तेमाल और जहां निर्णय, संदर्भ या मूल्यों की व्याख्या जरूरी हो, वहां इंसानी भागीदारी बरकरार रहे। 1
केवल AI को निगरानी की जिम्मेदारी क्यों नहीं?
AI को मूल्यांकनकर्ता बनाने का सबसे बड़ा आकर्षण उसकी गति और कम लागत है। लेकिन Sampura का कहना है कि तेज होना, भरोसेमंद होने की गारंटी नहीं है। संस्था ने कई जोखिमों की ओर संकेत किया है:
- असमान क्षमता: AI का प्रदर्शन “जैग्ड” हो सकता है—यानी वह कुछ कामों में बहुत अच्छा और दूसरे, कभी-कभी अप्रत्याशित कामों में कमजोर हो सकता है।
- साझा गलतियां: इंसानी और AI मूल्यांकनकर्ता ऐसी समान गलतियां कर सकते हैं, खासकर तब जब कोई मॉडल मूल्यांकन प्रक्रिया को ध्यान में रखकर खुद को अनुकूलित कर रहा हो।
- हेरफेर और मिलीभगत: जिस AI सिस्टम की निगरानी हो रही है, वह स्वचालित मूल्यांकनकर्ता को प्रभावित, धोखा या गुमराह करने की कोशिश कर सकता है।
- नई परिस्थितियां: अनजान या अस्पष्ट मामलों में केवल सीखी हुई पसंद-नापसंद लागू करना पर्याप्त नहीं होगा; वहां मानवीय विवेक और मूल्यों पर विचार जरूरी हो सकता है।
इसका मतलब यह नहीं कि इंसानी जज हर बार AI से बेहतर होंगे। मुद्दा यह है कि दबाव और जानबूझकर की गई चालाकी के बीच मानव और मशीन का कौन-सा संयोजन सबसे भरोसेमंद रहता है। 1
पहले छह महीनों में क्या जांचेगी संस्था?
Sampura के शुरुआती छह महीने एक विविध जज लीडरबोर्ड बनाने पर केंद्रित होंगे। इसमें 20 से अधिक सबडेटासेट होंगे, जिनमें धोखे की पहचान, सांस्कृतिक पक्षपात और AI एजेंटों की असुरक्षित कार्रवाइयों जैसे क्षेत्र शामिल हैं। 1
योजना केवल स्थिर सवाल-जवाब परीक्षणों तक सीमित नहीं है। कुछ परीक्षणों में निगरानी किए जा रहे मॉडल को reinforcement learning के दौरान सीधे जज के खिलाफ अनुकूलित किया जाएगा। इसका उद्देश्य यह देखना है कि जब मॉडल को मूल्यांकन की कमजोरियां खोजने का प्रोत्साहन मिले, तब भी जज प्रभावी रहता है या नहीं। 1
शोध तीन व्यापक तरीकों की तुलना करेगा:
- मानव जज, जो सीधे मूल्यांकन करेंगे।
- केवल-AI जज, जो ज्यादा तेज और बड़े पैमाने पर काम कर सकते हैं।
- हाइब्रिड जज, जो मूल्यांकन का काम इंसानों और AI के बीच बांटेंगे या दोनों को साथ लेकर चलेंगे।
लक्ष्य किसी एक छोटे बेंचमार्क में ऊंचा स्कोर हासिल करना नहीं है। Sampura ऐसे जज विकसित करना चाहती है जो कई तरह के परीक्षणों में मजबूत रहें और उन मॉडलों के बेहतर होने पर भी काम करते रहें, जो मूल्यांकन की कमजोरियों का फायदा उठाना सीख रहे हों। 1
मानव-AI निगरानी व्यवहार में कैसी दिख सकती है?
Sampura ने मानव और AI के बीच काम बांटने के कई संभावित तरीके बताए हैं:
- AI अपना भरोसा-स्तर मापे और अनिश्चित मामलों को इंसान के पास भेज दे।
- एक routing system पूरे निरीक्षण कार्य को मानव या AI मूल्यांकनकर्ता में से किसी एक को सौंप दे।
- जटिल काम को छोटे हिस्सों में बांटकर अलग-अलग उप-कार्य इंसानों या मशीनों को दिए जाएं।
- मानव मूल्यांकनकर्ताओं को ऐसे इंटरफेस और उपकरण दिए जाएं, जो कठिन फैसलों को तेज और अधिक समान बना सकें।
इस मॉडल में मानवीय भागीदारी को “या तो पूरी, या बिल्कुल नहीं” वाली शर्त नहीं माना गया है। कुछ मामलों की स्वचालित जांच सस्ती और भरोसेमंद हो सकती है, जबकि अन्य मामलों में धीमी लेकिन गहरी मानवीय समीक्षा जरूरी होगी। इसलिए असली संतुलन सटीकता, लागत, गति और जानबूझकर की गई चालाकी के सामने मजबूती के बीच है। 1
आगे का शोध एजेंडा
बेहतर जज विकसित करने के बाद Sampura यह जांचना चाहती है कि क्या वे मॉडल प्रशिक्षण के दौरान होने वाले reward hacking को कम कर सकते हैं। संस्था यह भी समझना चाहती है कि इंसानी भागीदारी कितनी जरूरी है, आधारभूत मॉडल निगरानी तंत्र का फायदा उठाना सीखने पर जजों को कैसे बदला जाए और क्या जजों का इस्तेमाल केवल आउटपुट को वर्गीकृत करने से आगे भी किया जा सकता है। 1
इसमें AI सिस्टमों के लिए इस्तेमाल होने वाले specifications, instructions, rubrics और test cases को तैयार करना या उनका मूल्यांकन करना भी शामिल हो सकता है। Sampura ने कहा है कि वह अपना काम शोध-पत्रों, कोड, डेटासेट और लीडरबोर्ड के रूप में प्रकाशित करेगी। 1
हालांकि उपलब्ध आधिकारिक सामग्री किसी खास नाम वाले “forward-looking harm” डेटासेट या पक्के तौर पर घोषित open-source human-rating platform की पुष्टि नहीं करती। इसलिए इन परियोजना-नामों को घोषित उत्पादों के बजाय अपुष्ट दावों के रूप में देखना चाहिए।
भर्ती और फंडिंग क्यों अहम हैं?
Sampura लंदन में अपनी शुरुआती तकनीकी टीम के लिए भर्ती कर रही है। इसके कार्यक्रम में machine learning, मूल्यांकन डिजाइन, human-computer interaction, डेटा संचालन और deployment—इन सभी क्षेत्रों की विशेषज्ञता चाहिए। 1
पहले के सार्वजनिक पोस्टों में कम-से-कम छह अतिरिक्त शोधकर्ताओं की भर्ती और 1 लाख से 2.9 लाख पाउंड तक के वेतन का उल्लेख था। लेकिन गैर-लाभकारी संस्था की आधिकारिक लॉन्च घोषणा इन सटीक आंकड़ों की पुष्टि नहीं करती। 12
13
AI मूल्यांकन क्षेत्र में विशेषज्ञों के लिए प्रतिस्पर्धा कितनी तीखी है, इसका एक उदाहरण METR की नौकरी सूची है। वहां एक evaluation-execution भूमिका के लिए मूल वेतन सीमा 2,85,548 से 5,03,116 डॉलर दी गई है और असाधारण अनुभव वाले उम्मीदवारों के लिए इससे अधिक भुगतान की संभावना भी बताई गई है। 18
यह Sampura की चुनौती दिखाता है: भरोसेमंद निगरानी के लिए तकनीकी शोध और वास्तविक दुनिया में सावधानीपूर्वक परीक्षण—दोनों चाहिए, जबकि इस क्षेत्र की संस्थाएं लगभग उसी सीमित प्रतिभा-समूह के लिए प्रतिस्पर्धा कर रही हैं।
AI विकास की रफ्तार और निगरानी की चिंता
Sampura की शुरुआत ऐसे समय हुई है जब यह चिंता बढ़ रही है कि AI विकास निगरानी और सुरक्षा प्रणालियों से आगे निकल सकता है। जुलाई 2026 में बड़ी AI कंपनियों के 1,100 से अधिक कर्मचारियों ने एक खुले पत्र पर हस्ताक्षर किए। पत्र में अमेरिकी सरकार से ऐसे अंतरराष्ट्रीय तकनीकी और शासन-संबंधी साधनों का समर्थन करने को कहा गया, जिनसे जरूरत पड़ने पर frontier AI विकास की गति को जानबूझकर नियंत्रित किया जा सके। पत्र ने तत्काल AI विकास रोकने की मांग नहीं की थी। 40
AI क्षेत्र में वरिष्ठ शोधकर्ताओं के आने-जाने की हलचल भी जारी रही। Reuters ने Google के AI डिवीजन में नेतृत्व बदलाव और प्रमुख इंजीनियरों व शोधकर्ताओं के दूसरी कंपनियों तथा स्टार्टअप में जाने की रिपोर्ट की। 49 ये घटनाएं Sampura के गठन की पृष्ठभूमि जरूर बताती हैं, लेकिन इससे यह साबित नहीं होता कि संस्था ने AI सुरक्षा की मूल समस्या हल कर ली है।
आज Sampura क्या दावा कर सकती है?
उपलब्ध प्रमाण Sampura को एक शुरुआती शोध संस्था के रूप में स्थापित करते हैं, जो AI निगरानी के लिए मापन और निर्णय लेने का बुनियादी ढांचा तैयार करना चाहती है। इसके बेंचमार्क और हाइब्रिड मूल्यांकन तरीके आगे चलकर AI लैब, स्वतंत्र मूल्यांकनकर्ताओं और मॉडल व्यवहार की जांच करने वाली अन्य संस्थाओं के काम आ सकते हैं। 1
लेकिन यह दावा करना अभी जल्दबाजी होगी कि Sampura frontier AI सिस्टमों को नियंत्रित कर सकती है। उसका तात्कालिक योगदान यह जांचना है कि तब निगरानी कैसे डिजाइन और परखी जाए, जब सामने वाला मॉडल सक्षम, अनुकूलनशील और मूल्यांकन में सफल दिखने के लिए अपनी कमजोरियों का फायदा उठाने को प्रेरित हो सकता है।
Sampura का केंद्रीय दांव साफ है: बड़े पैमाने पर AI सुरक्षा के लिए स्वचालन जरूरी होगा—लेकिन ऐसा स्वचालन नहीं, जो सबसे महत्वपूर्ण फैसलों से इंसानों को पूरी तरह बाहर कर दे।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"Sampura Research का AI सुरक्षा दांव: निगरानी से इंसानों को हटाना नहीं, बेहतर ‘जज’ बनाना" का संक्षिप्त उत्तर क्या है?
Sampura Research ने सार्वजनिक रूप से 25 अगस्त 2026 को शुरुआत की। संस्था बढ़ती क्षमता वाले AI मॉडलों के मूल्यांकन के लिए मानव AI हाइब्रिड सिस्टम बना रही है।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
Sampura Research ने सार्वजनिक रूप से 25 अगस्त 2026 को शुरुआत की। संस्था बढ़ती क्षमता वाले AI मॉडलों के मूल्यांकन के लिए मानव AI हाइब्रिड सिस्टम बना रही है। संस्था का तर्क है कि केवल AI से निगरानी कराने पर नई तरह की गलतियां छूट सकती हैं, मूल्यांकनकर्ता को गुमराह किया जा सकता है और मानवीय व AI त्रुटियां एक दूसरे से मिल सकती हैं।
मुझे अभ्यास में आगे क्या करना चाहिए?
पहले छह महीनों में 20 से अधिक सबडेटासेट वाला ‘जज’ लीडरबोर्ड तैयार किया जाएगा, जिसमें मानव, केवल AI और हाइब्रिड मूल्यांकन प्रणालियों की तुलना होगी।