जेफ्री हिंटन: अगले दशक में AI से मानव-विलुप्ति का 10% जोखिम ‘अनुचित नहीं’

जेफ्री हिंटन—AI के अग्रणी शोधकर्ता और 2024 के भौतिकी नोबेल पुरस्कार विजेता—ने कहा है कि अगले दशक में कृत्रिम बुद्धिमत्ता के कारण मानव-विलुप्ति की 10% संभावना का अनुमान उन्हें “अनुचित नहीं” लगता। मगर उन्होंने उतनी ही महत्वपूर्ण सावधानी भी जोड़ी: “किसी को भी नहीं पता कि एक समझदारी भरा अनुमान कैसे लगाया जाए।” 14

यानी हिंटन ने कोई वैज्ञानिक रूप से प्रमाणित पूर्वानुमान पेश नहीं किया। उनका तर्क यह है कि संभावित नुकसान का पैमाना बहुत बड़ा है और भविष्य के AI की क्षमताओं को लेकर अनिश्चितता भी गहरी है; ऐसे में इस जोखिम को सिरे से नकारना उचित नहीं होगा।

हिंटन को किन खतरों की चिंता है?

हिंटन दो अलग, मगर जुड़े हुए जोखिमों की बात करते हैं: पहला, लोगों द्वारा AI का दुर्भावनापूर्ण इस्तेमाल; दूसरा, ऐसे अत्यंत सक्षम AI सिस्टम जो भविष्य में मानव नियंत्रण में रखना कठिन हो जाएं।

अपने नोबेल व्याख्यान में उन्होंने बताया था कि AI पहले ही लोगों को भड़काने वाली सामग्री के जरिए विभाजनकारी “इको-चैंबर” बना रहा है, सत्तावादी सरकारों के व्यापक निगरानी तंत्र में इस्तेमाल हो रहा है और साइबर अपराधियों को फ़िशिंग हमलों में मदद दे रहा है। उन्होंने यह भी चेताया कि आगे चलकर AI खतरनाक नए वायरस और ऐसे घातक हथियारों के निर्माण में मदद कर सकता है जो स्वयं तय करें कि किसे निशाना बनाना है। उनके अनुसार, इन खतरों पर सरकारों और अंतरराष्ट्रीय संस्थाओं को तत्काल और कड़ा ध्यान देना चाहिए।

चिंता किसी एक विफलता तक सीमित नहीं है। उन्नत सिस्टम दुष्प्रचार को अधिक विश्वसनीय और व्यक्ति-विशेष के हिसाब से तैयार कर सकते हैं, सॉफ्टवेयर की कमजोरियां खोजने में हमलावरों की मदद कर सकते हैं, या जैविक और साइबर दुरुपयोग की बाधाएं घटा सकते हैं। AI-सुरक्षा समर्थकों की सबसे गंभीर आशंका में, किसी सिस्टम के पास रणनीतिक, तकनीकी और परिचालन क्षमता इतनी बढ़ सकती है कि वह संसाधनों या महत्वपूर्ण ढांचे तक पहुंच बना ले और उसे सीमित करने की मानव कोशिशों का प्रतिरोध करे। 5

‘एलाइनमेंट’ की समस्या क्या है?

इस बहस के केंद्र में एलाइनमेंट है। इसका अर्थ है: क्या इंसानों से कहीं अधिक सक्षम AI सिस्टम मानवों के इच्छित उद्देश्यों के अनुसार विश्वसनीय ढंग से काम करेंगे, गलत होने पर सुधारे जा सकेंगे, और वास्तविक सीमाओं के भीतर रखे जा सकेंगे?

एंथ्रॉपिक और ओपनएआई के पूर्व शोधकर्ता जैकब कॉक्सन ने एंथ्रॉपिक से इस्तीफा देते हुए आरोप लगाया कि प्रमुख लैब “स्वयं को बेहतर बनाने वाली सुपरइंटेलिजेंस” की ओर दौड़ रही हैं और “हमारी जिंदगियों के साथ जुआ खेल रही हैं।” 18 उनकी चिंता यह है कि AI अपनी क्षमताएं इतनी तेजी से सुधारने लगे कि सुरक्षा के तरीके उसके साथ कदम न मिला पाएं।

एंथ्रॉपिक में एलाइनमेंट साइंस का नेतृत्व करने वाले इवान ह्यूबिंगर ने इस चेतावनी का सार्वजनिक समर्थन किया। उन्होंने कहा कि उनके निजी आकलन में अगले दशक में AI के सभी मनुष्यों को मार देने की संभावना 10% से अधिक है। साथ ही, उन्होंने कहा कि सुपरइंटेलिजेंस के लिए एलाइनमेंट हल करने की कोई योजना अभी मौजूद नहीं है और एंथ्रॉपिक इस समाधान की दिशा में स्पष्ट रूप से सही राह पर भी नहीं है। 16

उनका दावा यह नहीं है कि आज के मॉडल अपने दम पर मानवता का अंत करने के कगार पर हैं। ह्यूबिंगर ने मौजूदा मॉडलों से जोखिम को कम बताया है। उनकी आशंका भविष्य की उस छलांग को लेकर है, जब मॉडल स्वयं को बेहतर बनाने या दुनिया में असरदार कार्रवाई करने लायक हो जाएं, लेकिन डेवलपर्स उन्हें विश्वसनीय रूप से नियंत्रित करना न सीख पाए हों। 116

संशयवादी विशेषज्ञ क्या कहते हैं?

दूसरे शोधकर्ता इस बात से इनकार नहीं करते कि AI साइबर अपराध, दुष्प्रचार और जैविक दुरुपयोग को अधिक खतरनाक बना सकता है। उनका मतभेद गंभीर नुकसान से सीधे मानव-विलुप्ति तक पहुंचने वाली दलील पर है।

AI शोधकर्ता और लेखक गैरी मार्कस मानते हैं कि AI साइबर हमलों, जैविक खतरों, दुष्प्रचार और युद्ध के बढ़ते जोखिम में योगदान दे सकता है। लेकिन उनके अनुसार, निकट भविष्य में ऐसा कोई यथार्थवादी रास्ता नहीं दिखता जिससे AI सचमुच “सभी मनुष्यों को मार” दे। 15

यैन लेकुन ने भी ऐसे उच्च-विश्वास वाले “पी(डूम)”—यानी AI से विनाश की संभावना—अनुमानों पर सवाल उठाए हैं। इस बहस की रिपोर्टिंग में उनके विचार को ऐसा बताया गया कि AI-विलुप्ति का जोखिम परमाणु प्रलय के जोखिम से काफी कम है; साथ ही यह भी कि ऐसे आंकड़े मूलतः अटकलबाजी हैं।

इसलिए असली विभाजन “चिंतित” और “बेफिक्र” विशेषज्ञों के बीच नहीं है। बहस दो अनसुलझे सवालों पर है:

1. क्षमता की समय-सीमा: AI सिस्टम कब, या क्या कभी, व्यापक रूप से मानवों से अधिक सक्षम बनेंगे और अपने प्रदर्शन को खुद सुधार सकेंगे?
2. नियंत्रण: अगर ऐसा होता है, तो क्या डेवलपर उन्हें विश्वसनीय रूप से नियंत्रित रख पाएंगे, या अधिक शक्तिशाली मॉडल और प्रतिस्पर्धी तैनाती के दबाव में सुरक्षा उपाय विफल हो जाएंगे?

10% का आंकड़ा क्या बताता है—और क्या नहीं?

AI से मानव-विलुप्ति की सटीक संभावना निकालने का कोई मान्य वैज्ञानिक तरीका उपलब्ध नहीं है। हिंटन और ह्यूबिंगर जैसे लोगों के आंकड़े बार-बार दोहराए जा सकने वाले ऐतिहासिक डेटा से निकली संभावनाएं नहीं, बल्कि बेहद गहरी अनिश्चितता में दिए गए विशेषज्ञ आकलन हैं। 14

इसका अर्थ यह नहीं कि विलुप्ति संभवतः होने ही वाली है। लेकिन केवल इसलिए कि कोई भरोसेमंद प्रतिशत उपलब्ध नहीं है, जोखिम को नगण्य भी नहीं कहा जा सकता। अधिक सीमित और व्यावहारिक निष्कर्ष यह है कि विशेषज्ञ संभावना और उसके रास्तों पर तीखे मतभेद रखते हैं, लेकिन बहुत शक्तिशाली AI से सुरक्षा और शासन की गंभीर चुनौतियां पैदा होने पर व्यापक सहमति है—किसी काल्पनिक विलुप्ति-परिदृश्य से बहुत पहले।

नीति का सवाल: तैनाती से पहले सुरक्षा उपाय

हिंटन ने AI जोखिमों पर सरकारों और अंतरराष्ट्रीय संस्थाओं से तत्काल ध्यान देने की अपील की है। कॉक्सन ने भी कहा है कि खतरा कम करने के लिए नियमन केंद्रीय महत्व रखता है।

नीतिगत चर्चा इसलिए उन सुरक्षा उपायों पर केंद्रित है जिन्हें पहचानी जा सकने वाली क्षमताओं और तैनाती पर लागू किया जा सके: फ्रंटियर मॉडलों का कठोर परीक्षण, बेहतर साइबर सुरक्षा, जैव-सुरक्षा संरक्षण, गंभीर घटनाओं की रिपोर्टिंग और निगरानी, तथा ऐसे सिस्टम को अधिक स्वायत्तता या संवेदनशील उपकरणों तक पहुंच देने से पहले स्वतंत्र जांच।

10% के अनुमान पर बहस फिलहाल खत्म होने वाली नहीं है। हिंटन का मुख्य बिंदु यह नहीं कि कोई व्यक्ति भरोसे के साथ सटीक प्रतिशत बता सकता है। उनका कहना है कि दांव इतने बड़े और अनिश्चितता इतनी अधिक है कि पूरी निश्चितता आने तक इंतजार करना सावधानी का गलत पैमाना हो सकता है। 14