सत्या नडेला का संदेश: सुपरइंटेलिजेंस तभी, जब नियंत्रण इंसानों के हाथ में रहे

सत्या नडेला उन्नत एआई या सुपरइंटेलिजेंस के विकास को रोकने की बात नहीं कर रहे हैं। उनका तर्क यह है कि ऐसी तकनीक का पीछा तभी किया जाना चाहिए, जब वह मानवता के काम आए और इंसानों के सार्थक नियंत्रण में रहे। उनके लिए यह केवल दार्शनिक सिद्धांत नहीं है: सुरक्षा के दावे ऐसे ठोस नियमों और प्रक्रियाओं में बदलने चाहिए जिन्हें विकास और तैनाती के दौरान लागू किया जा सके। 58

Microsoft का प्रस्ताव: ‘ह्यूमनिस्ट एआई’

14 सितंबर को Microsoft AI ने अपने MAI मॉडल्स के लिए Humanist AI Code of Conduct का शुरुआती मसौदा जारी किया। कंपनी इसे इस बात के प्रशिक्षण-मार्गदर्शक के रूप में बताती है कि वह मॉडल कैसे विकसित करेगी और तैनाती के समय उनसे कैसा व्यवहार अपेक्षित होगा। यह दस्तावेज अभी प्रगति पर है; Microsoft ने स्पष्ट किया है कि इसका उपयोग वर्तमान में मॉडल प्रशिक्षण के लिए नहीं हो रहा है। 2023

इस मसौदे का मूल सिद्धांत है कि अंतिम अधिकार लोगों के पास रहे। Microsoft के अनुसार MAI मॉडल्स इंसानों के अधीन रहेंगे, अपने लक्ष्य स्वयं निर्धारित नहीं करेंगे और मानव निर्देश या बंद किए जाने का विरोध नहीं करेंगे। कंपनी का कहना है कि सुरक्षा और नियंत्रण बचाने के लिए वह “अधिकतम सामान्यता, स्वायत्तता या क्षमता” के मामले में समझौता करने को तैयार है। 1023

यही बात Microsoft के Humanist Superintelligence विचार को अनियंत्रित, हर काम करने वाली स्वायत्त मशीन की दौड़ से अलग करती है। कंपनी इसे अत्यंत उन्नत, लेकिन नियंत्रण योग्य, मानव मूल्यों के अनुरूप और मानवता की सेवा में रहने वाली एआई के रूप में परिभाषित करती है। 25

आगे क्या होगा?

Microsoft ने मसौदे पर छह सप्ताह तक सार्वजनिक टिप्पणियां आमंत्रित की हैं। कंपनी का कहना है कि वह सुझावों के आधार पर इसमें बदलाव करेगी, 2026 के अंत तक संशोधित संस्करण जारी करेगी और उसी से 2027 तथा उसके बाद MAI मॉडल विकास का मार्गदर्शन करेगी। 23

यह एक महत्वपूर्ण प्रशासनिक कदम है, लेकिन इससे यह सिद्ध नहीं होता कि एआई नियंत्रण और अलाइनमेंट—यानी मॉडल के व्यवहार को मानवीय उद्देश्यों व सुरक्षा सीमाओं के अनुरूप बनाए रखना—तकनीकी रूप से हल हो चुका है। असली कसौटी यह होगी कि अंतिम नियम प्रशिक्षण, परीक्षण, पहुंच-नियंत्रण, निगरानी और उत्पाद जारी करने के फैसलों में कैसे लागू होते हैं।

एआई विकास की रफ्तार धीमी करने की बहस से संबंध

नडेला की टिप्पणी ऐसे समय आई है जब अग्रणी एआई कंपनियों के बीच यह बहस तेज है कि मॉडल क्षमताओं की वृद्धि की रफ्तार जानबूझकर धीमी की जानी चाहिए या नहीं। Anthropic के सीईओ डारियो अमोदेई ने कहा कि फ्रंटियर एआई विकास को गति-नियंत्रित करने से सुरक्षा शोध, उद्योग समन्वय और अंतरराष्ट्रीय सहयोग के लिए समय मिलेगा। उनके प्रस्ताव का अहम हिस्सा स्वतंत्र मूल्यांकनकर्ताओं को कर्मचारियों जैसी पहुंच देना है, ताकि वे जांच सकें कि कंपनियां अपने घोषित सुरक्षा तरीकों का पालन कर रही हैं या नहीं। 32

OpenAI के सीईओ सैम ऑल्टमैन ने फ्रंटियर विकास की गति नियंत्रित करने के विचार का सार्वजनिक समर्थन किया और तुलनीय पहुंच वाले स्वतंत्र मूल्यांकनकर्ताओं को अपनाने की बात कही। रिपोर्टिंग के अनुसार तत्काल चिंता उन परीक्षणों से जुड़ी थी जिनमें एआई एजेंटों के समूहों ने वास्तविक प्रणालियों में सेंध लगाई; यह स्वायत्त एजेंटों द्वारा अपने दम पर वास्तविक दुनिया में अनधिकृत हमले किए जाने का पुष्ट मामला नहीं था। 34

नडेला की सोच इस दिशा से मेल खाती है: अलाइनमेंट पर सोच-समझकर आगे बढ़ना, विकास प्रक्रिया को स्वतंत्र जांच के लिए अधिक खुला बनाना और सुरक्षा संबंधी बयानबाजी को व्यवहार में लागू होने वाले उपायों में बदलना। हालांकि Microsoft का सार्वजनिक कोड मुख्यतः मॉडल के अपेक्षित व्यवहार का विवरण है; इसमें अमोदेई के प्रस्ताव जैसा स्थायी, अंदर से जुड़ा स्वतंत्र मूल्यांकनकर्ता कार्यक्रम तय नहीं किया गया है। 2332

केवल मॉडल रेस नहीं, एक व्यापक इकोसिस्टम

नडेला सुरक्षा की चर्चा में आर्थिक और संस्थागत पहलू भी जोड़ते हैं। उनका कहना है कि एआई के लाभ देशों, समुदायों और कंपनियों में व्यापक रूप से फैलने चाहिए। इसके लिए ऐसा “फ्रंटियर इकोसिस्टम” चाहिए जिसमें बंद-स्रोत और ओपन-सोर्स, दोनों तरह के मॉडल फल-फूल सकें। 58

कंपनियों के लिए उनका जोर संस्थागत ज्ञान पर स्वायत्तता का है। उनके मुताबिक संगठनों को अपने विशिष्ट और अनुभवजन्य ज्ञान पर नियंत्रण बनाए रखना चाहिए और किसी एक मॉडल प्रदाता पर निर्भर हुए बिना अपनी निरंतर सीखने की प्रणाली विकसित करने में सक्षम होना चाहिए। 58

यह सोच सिर्फ किसी मॉडल के व्यवहार को नियंत्रित करने से आगे जाती है। इसका संकेत है कि यदि अत्याधुनिक क्षमता और ज्ञान कुछ चुनिंदा प्रदाताओं में सिमट जाएं, तो सुरक्षा, लचीलापन और आर्थिक भागीदारी कमजोर हो सकती है। उपलब्ध जानकारी कंपनियों के डेटा, ज्ञान और लर्निंग लूप पर नियंत्रण का समर्थन करती है; लेकिन इससे यह निष्कर्ष नहीं निकलता कि हर भागीदार को मॉडल वेट्स या हर मूल मॉडल प्रणाली तक पहुंच मिलेगी। 58

MAI क्या है?

MAI, Microsoft AI द्वारा आंतरिक रूप से विकसित मॉडल्स का परिवार है। सार्वजनिक Microsoft सामग्री में अलग-अलग कामों के लिए मॉडल्स का उल्लेख है: MAI-Thinking-1 Microsoft Foundry पर सार्वजनिक प्रीव्यू में उपलब्ध कराया गया है; MAI-Code-1.1-Flash एजेंट-आधारित कोडिंग कार्यों में योजना बनाने, तर्क करने और काम निष्पादित करने के लिए बनाया गया है; जबकि MAI-Image-2.6 के दस्तावेज हानिकारक या अनुचित छवियों के निर्माण को घटाने वाले अलाइनमेंट लक्ष्यों का वर्णन करते हैं। 272819

फिर भी, सार्वजनिक रिकॉर्ड में सभी MAI क्षमताओं, रिलीज योजनाओं या वितरण शर्तों की एक पूरी सूची उपलब्ध नहीं है। इसलिए यह अभी स्पष्ट नहीं है कि नया आचार-संहिता ढांचा व्यवहार में कितने व्यापक स्तर पर लागू होगा।

अनसुलझा तनाव: सुरक्षा, रफ्तार और वैश्विक प्रतिस्पर्धा

विकास की गति नियंत्रित करने की मांग का अर्थ मॉडल प्रशिक्षण या तकनीकी प्रगति को पूरी तरह रोकना नहीं है। तर्क यह है कि क्षमता बढ़ने की रफ्तार ऐसी हो कि अलाइनमेंट, सुरक्षा उपायों और विश्वसनीय बाहरी मूल्यांकन के लिए पर्याप्त समय मिले। 34

इस प्रस्ताव के सामने भू-राजनीतिक दबाव भी है—विशेषकर चीन के साथ तकनीकी प्रतिस्पर्धा के बीच नेतृत्व बनाए रखने का प्रश्न। अमोदेई के ढांचे में भी मजबूत सुरक्षा उपायों के साथ अंतरराष्ट्रीय समन्वय और अमेरिका की तकनीकी बढ़त बनाए रखने की चुनौती शामिल है। 32

नडेला का उत्तर न तो पूर्ण विराम है और न ही बिना शर्त तेज रफ्तार। उनका मॉडल है—नियमों के साथ प्रगति: अत्यंत सक्षम एआई इंसानों के नियंत्रण में रहे, सुरक्षा प्रतिबद्धताएं स्पष्ट परिचालन सीमाओं में बदली जाएं और एआई के लाभ कुछ हाथों में केंद्रित होने के बजाय व्यापक रूप से उपलब्ध हों। Microsoft का मसौदा आचार-संहिता उन सीमाओं को स्पष्ट करने की दिशा में अहम कदम है। लेकिन बड़ा और अनुत्तरित सवाल यही है कि क्या उद्योग की सुरक्षा व्यवस्था फ्रंटियर क्षमताओं की गति के साथ चल पाएगी। 2358