जेफ्री हिंटन बोले: अगले दशक में AI से मानव-विलुप्ति का 10% जोखिम ‘अनुचित नहीं’

जेफ्री हिंटन—नोबेल पुरस्कार विजेता कंप्यूटर वैज्ञानिक और आधुनिक AI के प्रमुख अग्रदूतों में गिने जाने वाले शोधकर्ता—ने कहा है कि अगले 10 वर्षों में AI के कारण सभी इंसानों के मारे जाने की 10% संभावना को वे अनुचित अनुमान नहीं मानते। लेकिन उन्होंने साथ ही एक अहम बात स्पष्ट की: ऐसी संभावना का समझदारी से अनुमान कैसे लगाया जाए, यह वास्तव में किसी को नहीं पता। 91012

यह कोई निश्चित भविष्यवाणी नहीं है कि मानव-विलुप्ति होगी, और न ही हिंटन का दावा है कि आज के चैटबॉट ऐसा खतरा पैदा कर रहे हैं। उनकी चेतावनी उस स्थिति को लेकर है जिसमें AI प्रणालियां मनुष्यों से बहुत अधिक सक्षम हो जाएं, लेकिन उन्हें नियंत्रित रखना संभव न रहे।

हिंटन के 10% अनुमान का मतलब क्या है?

BBC के Newsnight कार्यक्रम में हिंटन ने कहा कि एक दशक के भीतर AI-जनित मानव-विलुप्ति की 10% आशंका अनुचित नहीं लगती। उनका तर्क अनिश्चितता पर आधारित था: मानवता ने पहले कभी ऐसे संभावित बुद्धिमान तंत्रों के साथ सह-अस्तित्व नहीं किया, जो जल्द ही इंसानों से अधिक बुद्धिमान हो सकते हैं। 910

हिंटन पहले भी लंबी समय-सीमा में गंभीर जोखिम की बात कर चुके हैं। 2024 के अंत में उन्होंने कहा था कि तीन दशकों के भीतर AI से मानव-विलुप्ति की संभावना 10% से 20% हो सकती है। 2025 में उन्होंने इसे गणितीय पूर्वानुमान नहीं, बल्कि अपना सहज आकलन बताया था। 1415

मुख्य अंतर समझना जरूरी है: जोखिम का अनुमान यह नहीं कहता कि घटना अवश्य होगी। हिंटन का तर्क है कि दांव इतने बड़े हैं कि अनिश्चितता को लापरवाही का आधार नहीं, सावधानी का कारण माना जाना चाहिए।

भविष्य की अतिमानवीय AI से चिंता क्यों?

चर्चा किसी फिल्मी ‘मशीन विद्रोह’ की नहीं है। हिंटन की चिंता यह है कि मनुष्यों से कहीं अधिक रणनीतिक और तकनीकी क्षमता वाली AI अराजकता फैला सकती है या ऐसे लक्ष्य अपना सकती है जो मानवीय हितों के विरुद्ध हों।

रिपोर्टों में संभावित नुकसान के रास्तों में लोगों को प्रभावित या भ्रमित करना, जैविक अथवा कंप्यूटर वायरस बनाना, साइबर हमले करना और अहम बुनियादी ढांचे को बाधित करना शामिल हैं। ये अत्यधिक सक्षम भविष्य की प्रणालियों से जुड़े संभावित परिदृश्य हैं—आज के AI टूल्स की सिद्ध क्षमताएं नहीं। 1011

यह अंतर महत्वपूर्ण है। Anthropic में एलाइनमेंट साइंस के प्रमुख इवान हुबिंगर ने साफ कहा कि मौजूदा मॉडलों से जोखिम कम है। उनकी चिंता, हिंटन की तरह, उन प्रणालियों को लेकर है जो बहुत अधिक सक्षम हो सकती हैं या शोधकर्ताओं के सुरक्षित ढंग से संभालने की गति से तेज खुद को सुधार सकती हैं। 11624

जैकब कॉक्सन और इवान हुबिंगर की चेतावनी

यह बहस तब और तेज हुई जब जैकब कॉक्सन ने Anthropic और AI उद्योग छोड़ दिया। कॉक्सन ने आरोप लगाया कि Anthropic और OpenAI पर्याप्त जिम्मेदारी के बिना खुद को सुधारने वाली सुपरइंटेलिजेंस की दौड़ में लगे हैं और यह मानव जीवन के साथ जुआ खेलने जैसा है। 317

कॉक्सन ने यह सटीक भविष्यवाणी नहीं की कि 2030 तक मानवता समाप्त हो जाएगी। उनका सीमित, लेकिन गंभीर दावा यह था कि फ्रंटियर AI बनाने वाले लोग सचमुच मानते हैं कि यह तकनीक दशक के अंत तक सभी को मार सकती है। 57

हुबिंगर ने इस चिंता की गंभीरता का सार्वजनिक रूप से समर्थन किया। उन्होंने लिखा कि उनके निजी आकलन में अगले दशक में AI के सभी इंसानों को मार देने की संभावना 10% से अधिक है, हालांकि Anthropic अपनी ओर से पूरी कोशिश कर रहा है। उन्होंने यह भी कहा कि कंपनी के पास अभी सुपरइंटेलिजेंस के एलाइनमेंट की समस्या हल करने की योजना नहीं है और वह उसे विकसित करने की स्पष्ट राह पर भी नहीं दिखती। 16

‘एलाइनमेंट’ की समस्या क्या है?

एलाइनमेंट का अर्थ है यह सुनिश्चित करना कि उन्नत AI प्रणालियां भरोसेमंद तरीके से मनुष्यों के तय किए उद्देश्यों के अनुरूप काम करें और नियंत्रण में रहें—उन परिस्थितियों में भी, जिनकी कल्पना उनके निर्माताओं ने पहले से न की हो।

सुरक्षा-केंद्रित शोधकर्ताओं के लिए मुद्दा सिर्फ इतना नहीं है कि AI किसी गलत प्रॉम्प्ट को मना कर दे। बड़ा सवाल यह है कि व्यापक स्वायत्तता, उपकरणों तक पहुंच और अपने संचालकों की समझ से आगे की क्षमता वाले सिस्टम को वास्तविक दुनिया के दबाव में सुरक्षित ढंग से निर्देशित किया जा सकेगा या नहीं।

हुबिंगर की टिप्पणियां यह साबित नहीं करतीं कि एलाइनमेंट असंभव है। वे इतना बताती हैं कि उनके आकलन में, सुपरइंटेलिजेंट प्रणालियों के आने से पहले उन्हें एलाइन करने का कोई प्रदर्शित समाधान अभी मौजूद नहीं है। 16

विशेषज्ञों में सहमति और मतभेद

हिंटन के ठीक 10% वाले आंकड़े पर कोई सर्वसम्मति नहीं है।

AI शोधकर्ता गैरी मार्कस ने हिंटन के मूल एहतियाती तर्क का समर्थन किया कि वैज्ञानिक सहमति के बिना सुपरइंटेलिजेंस विकसित करना मूर्खता होगी—खासकर जब यह सिद्ध न हो कि उसे सुरक्षित और नियंत्रित ढंग से बनाया जा सकता है। मगर रिपोर्टों के अनुसार मार्कस निकट भविष्य में मानव-विलुप्ति का कोई यथार्थवादी रास्ता नहीं देखते। इससे एक महत्वपूर्ण विभाजन सामने आता है: सुरक्षा उपायों की जरूरत पर सहमति का अर्थ यह नहीं कि लोग तबाही की संभावना या समय-सीमा पर भी सहमत हों। 1141

यही कारण है कि ऐसे संख्यात्मक आकलनों को मापे हुए तथ्य नहीं, बल्कि विशेषज्ञों के व्यक्तिगत निर्णय की तरह पढ़ना चाहिए।

असली नीतिगत सवाल

सबसे मजबूत साझा आधार यह नहीं है कि AI से मानव-विलुप्ति तय है। साझा चिंता यह है कि यदि अपनी क्षमता में संचालकों से आगे निकल जाने वाली प्रणालियों पर नियंत्रण खोने की संभावना नगण्य नहीं है, तो सुरक्षा-कार्य से तेज विकास होने से पहले उस पर सार्वजनिक जांच जरूरी है।

हिंटन का आकलन, कॉक्सन का इस्तीफा और हुबिंगर की एलाइनमेंट चेतावनी एक ही अनसुलझे प्रश्न की ओर इशारा करते हैं: रणनीतिक रूप से इंसानों से अधिक सक्षम हो सकने वाले सिस्टम को तैनात करने या उसका पैमाना बढ़ाने से पहले समाज को किस तरह के प्रमाण मांगने चाहिए?

पाठकों के लिए उपयोगी बात यह है कि अक्सर आपस में मिला दिए जाने वाले इन तीन दावों को अलग रखा जाए:

• मौजूदा AI मॉडल मानव-विलुप्ति का खतरा हैं।
• भविष्य के AI सिस्टम ऐसी क्षमताएं हासिल कर सकते हैं जो वैसा खतरा पैदा करें।
• उस खतरे की संभावना का ठीक-ठीक अनुमान लगाया जा सकता है।

उपलब्ध स्रोत दूसरे दावे को प्रमुख शोधकर्ताओं की गंभीर चिंता के रूप में पेश करते हैं। वहीं, हुबिंगर वर्तमान मॉडलों के जोखिम को कम बताते हैं और हिंटन कहते हैं कि संभावना का भरोसेमंद हिसाब लगाना संभव नहीं है। 11016