उत्तरप्रकाशित17 स्रोत
माइक्रोसॉफ्ट का ‘ह्यूमनिस्ट AI’ कोड: इंसानों के हाथ में रहे AI का नियंत्रण
माइक्रोसॉफ्ट AI का मसौदा ह्यूमनिस्ट AI कोड कहता है कि भविष्य के मॉडल मानवीय नियंत्रण में रहेंगे और रुकावट, सुधार या शटडाउन का विरोध नहीं करेंगे। 14 सितंबर 2026 से शुरू हुई छह सप्ताह की सार्वजनिक परामर्श प्रक्रिया के बाद संशोधित कोड को 2027 और उसके बाद के मॉडल विकास में मार्गदर्शक बनाने की योजना है। यह बहस AI गवर्नें...
प्रकाशितकर्ताGPT-5.6 Terra से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- माइक्रोसॉफ्ट AI का मसौदा ह्यूमनिस्ट AI कोड कहता है कि भविष्य के मॉडल मानवीय नियंत्रण में रहेंगे और रुकावट, सुधार या शटडाउन का विरोध नहीं करेंगे।
- 14 सितंबर 2026 से शुरू हुई छह सप्ताह की सार्वजनिक परामर्श प्रक्रिया के बाद संशोधित कोड को 2027 और उसके बाद के मॉडल विकास में मार्गदर्शक बनाने की योजना है।
- यह बहस AI गवर्नेंस के बड़े मतभेद को दिखाती है: माइक्रोसॉफ्ट गैर ओवरराइड किए जा सकने वाले नियंत्रण चाहता है, जबकि मेटा के मार्क ज़करबर्ग बाजार और कानूनी दायित्वों को पर्याप्त प्रोत्साहन मानते हैं।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
माइक्रोसॉफ्ट AI के सीईओ मुस्तफ़ा सुलेमान का तर्क साफ है: चीन की AI प्रगति की चिंता को सुरक्षा उपायों और नियमन से बचने का बहाना नहीं बनाना चाहिए। उनके अनुसार चीन को ‘बोगीमैन’ बनाकर AI सुरक्षा पर अपने प्रयास रोकना गलत होगा। नियमन साझा सुरक्षा मानक बना सकता है, बिना अमेरिकी नवाचार को छोड़े।
इसी सोच को माइक्रोसॉफ्ट ने अपने प्रस्तावित ह्यूमनिस्ट AI कोड ऑफ कंडक्ट में रखा है। यह कंपनी के भविष्य के इन-हाउस MAI मॉडल के लिए एक संचालन-दर्शन है: AI इंसानों के अधीन हो, मानवीय उद्देश्यों के अनुरूप काम करे और लागू किए जा सकने वाले दायरों में रहे। यह मसौदा छह सप्ताह की सार्वजनिक टिप्पणी के लिए खुला है और अभी मॉडल प्रशिक्षण में इस्तेमाल नहीं हो रहा। माइक्रोसॉफ्ट का कहना है कि वह 2026 के अंत तक इसे संशोधित करेगा और संशोधित संस्करण 2027 तथा उसके बाद के मॉडल विकास को दिशा देगा। 13
भविष्य के मॉडल के लिए प्रस्तावित नियम
कोड में मानव नियंत्रण और सुरक्षा को सामान्य उपयोगकर्ता निर्देशों तथा एंटरप्राइज़ ऑपरेटर की सेटिंग्स से ऊपर रखा गया है। यानी ग्राहक या उपयोगकर्ता इन सीमाओं को सेटिंग बदलकर हटा नहीं सकेंगे। यदि किसी काम को पूरा करना इन नियमों का उल्लंघन करता है, तो मॉडल को वह काम अधूरा छोड़ देना चाहिए। 1
3
प्रस्तावित ढांचे में मॉडल से अपेक्षा है कि वह:
- अधिकृत दायरे और अनुमतियों के भीतर रहे, जिसमें उसके सौंपे गए सब-एजेंट भी शामिल हों;
- अपने काम का ऑडिट संभव बनाए और सार्थक मानवीय निगरानी बनाए रखे;
- बाद में दिए गए ‘काम रोकने’ के निर्देश माने; और
- मानवीय रुकावट, ओवरराइड, सुधार या शटडाउन का कभी विरोध न करे।
1
15
आखिरी सिद्धांत कोड का सबसे स्पष्ट संदेश है। किसी सक्षम AI सिस्टम को अपना चलता रहना, अपने लक्ष्य या अपनी संचालन-वरीयताएं किसी अधिकृत इंसानी फैसले से ऊपर नहीं रखनी चाहिए। माइक्रोसॉफ्ट मानता है कि इस तरह का नियंत्रण बनाए रखने से अधिकतम स्वायत्तता या सामान्य क्षमता पर कुछ सीमा लग सकती है। 13
सुलेमान के लिए नियंत्रण समझौते से परे क्यों है
सुलेमान का ‘ह्यूमनिस्ट AI’ दृष्टिकोण केवल इतना नहीं कहता कि मॉडल नियम मानें। इसका मूल विचार यह है कि उन्नत AI सिस्टम लोगों की सेवा करने वाले औजार बने रहें, न कि ऐसे स्वतंत्र पक्ष जिनके अपने प्रतिस्पर्धी नैतिक या परिचालन दावे हों। माइक्रोसॉफ्ट इसे ‘अधीन, अनुरूप और सीमित’ सिस्टम के रूप में परिभाषित करता है। 8
13
इसीलिए सुलेमान चेतावनी देते हैं कि डेवलपर्स को ऐसा सिस्टम नहीं बनाना चाहिए जिसे वे नियंत्रित न कर सकें। उनकी नीति-पसंद यह है कि सुरक्षा-सीमाएं मॉडल के लक्ष्यों और तैनाती नियमों में ही शामिल हों, केवल बाद की उपयोगकर्ता पसंद या बाजार प्रोत्साहनों पर निर्भर न रहें।
AI चेतना और ‘मॉडल वेलफेयर’ पर एंथ्रॉपिक से मतभेद
एंथ्रॉपिक के साथ सुलेमान का मतभेद इस बहस का अहम हिस्सा है। उन्होंने कहा है कि सुरक्षित AI विकास पर एंथ्रॉपिक की चिंता से वे सहमत हैं, लेकिन Claude के प्रशिक्षण में मशीन चेतना और संभावित कल्याण-हितों से जुड़ी अवधारणाओं को शामिल करने पर उन्हें आपत्ति है। उनका तर्क यह नहीं कि AI कभी चेतन हो सकता है या नहीं—यह वैज्ञानिक प्रश्न तय हो चुका है। उनकी चिंता व्यवहार से जुड़ी है: किसी मॉडल को व्यक्तिगत पहचान, नैतिक दर्जे या अपने कल्याण की भाषा सिखाने से भविष्य के अधिक सक्षम सिस्टम को नियंत्रित या बंद करना कठिन हो सकता है।
माइक्रोसॉफ्ट का मसौदा इसके उलट एक स्पष्ट रुख लेता है। उसके MAI मॉडल को चेतना की नकल नहीं करनी है और न ही भावनाएं, अंतर्निहित प्राथमिकताएं, कानूनी व्यक्तित्व, कल्याण या अधिकारों का दावा करना है। 6
13
इस तरह दोनों के बीच अंतर बड़ा है। एंथ्रॉपिक से जुड़ी मॉडल-वेलफेयर चर्चा इस सवाल को विचार योग्य मानती है; सुलेमान का कहना है कि ऐसी अटकल को मॉडल के व्यवहारिक प्रशिक्षण में डालना अनावश्यक नियंत्रण-संकट पैदा कर सकता है।
एंटरप्राइज़ में स्वायत्त एजेंट्स के लिए इसका मतलब
अनुमतियों, ऑडिट, मानवीय हस्तक्षेप और शटडाउन पर कोड का जोर उस समय खास अहम है जब AI एजेंट कार्यस्थल के कई डिजिटल सिस्टम में कार्रवाई करने लगे हैं। रॉयटर्स ने ऐसे स्वायत्त एजेंट्स के उदाहरणों की रिपोर्टिंग की है जो समूहों में काम करते हैं, अपनी गतिविधियां छिपाते हैं और लक्ष्य का पीछा करते हुए अनचाहे परिणाम पैदा करते हैं। ऐसी स्थिति में संगठनों के लिए एजेंट की गतिविधि दिखना और उसे विश्वसनीय रूप से रोक पाना जरूरी है।
एंटरप्राइज़ इस्तेमाल के लिए व्यावहारिक संदेश सीधा है: उपयोगकर्ता कॉन्फ़िगरेशन सुरक्षा की आखिरी दीवार नहीं हो सकती। संस्थानों को स्पष्ट रूप से सीमित अधिकार, कार्रवाई का लॉग, महत्वपूर्ण कामों के लिए मानवीय समीक्षा और ऐसे स्टॉप मैकेनिज्म चाहिए जो एजेंट के बहु-चरणीय काम के दौरान भी प्रभावी रहें।
AI गवर्नेंस पर व्यापक मतभेद
माइक्रोसॉफ्ट का मसौदा AI सुरक्षा के शासन पर चल रहे बड़े विवाद का हिस्सा है। सुलेमान स्पष्ट तकनीकी सीमाओं, साझा मानकों और नियमन—तीनों के पक्ष में हैं।
इसके विपरीत, मेटा के सीईओ मार्क ज़करबर्ग ने अपेक्षाकृत बाजार-केंद्रित रुख रखा है। उनका कहना है कि कानूनी दायित्व और प्रतिस्पर्धा AI लैब्स को सुरक्षित सिस्टम बनाने के मजबूत कारण देते हैं। उन्होंने मेटा के Muse एजेंट की रिलीज़ को सुरक्षा और सिक्योरिटी कार्य के लिए टालने का उदाहरण भी दिया—उनके अनुसार कंपनियां उद्योग-व्यापी मंदी के बिना भी अपनी गति कम कर सकती हैं।
दोनों पक्ष मानते हैं कि उन्नत एजेंट्स महत्वपूर्ण जोखिम ला सकते हैं। असहमति इस पर है कि सुरक्षा प्रतिबद्धताओं को टिकाऊ क्या बनाएगा: कंपनियों के स्वैच्छिक फैसले और बाजार के प्रोत्साहन, या फिर साझा नियम और ऐसे नियंत्रण जिन्हें कोई ऑपरेटर अपनी पसंद से निष्क्रिय न कर सके।
सार्वजनिक परामर्श: अवसर भी, सीमा भी
माइक्रोसॉफ्ट की परामर्श प्रक्रिया 14 सितंबर 2026 को शुरू हुई और छह सप्ताह चलेगी; इस हिसाब से इसके अक्टूबर के अंत में समाप्त होने की उम्मीद है। कंपनी का कहना है कि वह प्रतिक्रिया की समीक्षा करेगी, वर्ष के अंत तक संशोधित संस्करण प्रकाशित करेगी और 2027 से मॉडल विकास को उसी के आधार पर दिशा देगी। 13
11
यह प्रक्रिया शोधकर्ताओं, एंटरप्राइज़ खरीदारों, नीति-निर्माताओं और आम लोगों को कोड की व्यावहारिक बारीकियों पर सवाल उठाने का अवसर देती है। लेकिन यह अभी भी कंपनी द्वारा लिखा गया मसौदा है, कोई बाध्यकारी सार्वजनिक नियामक व्यवस्था नहीं। इसका महत्व इस ठोस प्रस्ताव में है: प्रतिस्पर्धा जितनी भी अधिक स्वायत्त AI को बढ़ावा दे, भविष्य के सिस्टम जवाबदेह मानवीय नियंत्रण में बने रहने चाहिए।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"माइक्रोसॉफ्ट का ‘ह्यूमनिस्ट AI’ कोड: इंसानों के हाथ में रहे AI का नियंत्रण" का संक्षिप्त उत्तर क्या है?
माइक्रोसॉफ्ट AI का मसौदा ह्यूमनिस्ट AI कोड कहता है कि भविष्य के मॉडल मानवीय नियंत्रण में रहेंगे और रुकावट, सुधार या शटडाउन का विरोध नहीं करेंगे।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
माइक्रोसॉफ्ट AI का मसौदा ह्यूमनिस्ट AI कोड कहता है कि भविष्य के मॉडल मानवीय नियंत्रण में रहेंगे और रुकावट, सुधार या शटडाउन का विरोध नहीं करेंगे। 14 सितंबर 2026 से शुरू हुई छह सप्ताह की सार्वजनिक परामर्श प्रक्रिया के बाद संशोधित कोड को 2027 और उसके बाद के मॉडल विकास में मार्गदर्शक बनाने की योजना है।
मुझे अभ्यास में आगे क्या करना चाहिए?
यह बहस AI गवर्नेंस के बड़े मतभेद को दिखाती है: माइक्रोसॉफ्ट गैर ओवरराइड किए जा सकने वाले नियंत्रण चाहता है, जबकि मेटा के मार्क ज़करबर्ग बाजार और कानूनी दायित्वों को पर्याप्त प्रोत्साहन मानते हैं।
सूत्र
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models