पोप लियो XIV की AI चेतावनी: मशीनों पर इंसानी नियंत्रण क्यों जरूरी है

पोप लियो XIV का हालिया AI संदेश तकनीक को पूरी तरह खारिज करने का आह्वान नहीं है। उनकी चिंता इस बात को लेकर है कि कृत्रिम बुद्धिमत्ता पर नियंत्रण किसका होगा और क्या होगा जब इंसानी जिम्मेदारी मशीनों को सौंप दी जाएगी। 21 अगस्त को इंटरनेशनल कैथोलिक लेजिसलेटर्स नेटवर्क और 28 अगस्त को इंटरनेशनल इंस्टीट्यूट ऑफ एडमिनिस्ट्रेटिव साइंसेज को दिए संबोधनों में उन्होंने कहा कि AI को सार्वजनिक हित की सेवा करनी चाहिए—उसका मार्गदर्शन मानवीय बुद्धि, विवेक और कानून करें, न कि केवल गति, मुनाफा या अपारदर्शी प्रणालियां।

दोनों भाषण उनके विश्वपत्र Magnifica Humanitas के केंद्रीय सिद्धांत को व्यवहारिक रूप देते हैं: तकनीकी प्रगति का मूल्यांकन इस आधार पर होना चाहिए कि वह मानव गरिमा, न्याय, शांति और वास्तविक मानवीय स्वायत्तता की रक्षा करती है या नहीं। 16

सार्वजनिक प्रशासन के लिए चेतावनी: इंसान अपनी ही बनाई तकनीक का शिकार न बनें

इंटरनेशनल इंस्टीट्यूट ऑफ एडमिनिस्ट्रेटिव साइंसेज के सदस्यों को संबोधित करते हुए लियो ने चेताया कि AI का तेज विकास ऐसी स्थिति पैदा कर सकता है जिसमें मानवता अपने ही आविष्कारों की “शिकार बन जाए।” उन्होंने खास तौर पर मानव जीवन से जुड़े फैसले मशीनों को सौंपने के खिलाफ आगाह किया।

उन्होंने डिजिटल तकनीक को छोड़ने की बात नहीं कही, बल्कि उसे मानवीय बनाने पर जोर दिया। पोप ने सार्वजनिक प्रशासन से जुड़े शोधकर्ताओं से ऐसे रास्ते खोजने का आग्रह किया जिनसे डिजिटल प्रणालियां जीवन और शांति की सेवा कर सकें और सार्वजनिक फैसलों के केंद्र में लोग रहें—स्वचालित प्रक्रियाएं नहीं।

इसका अर्थ स्वचालन की एक स्पष्ट सीमा है: AI प्रशासन में मदद कर सकता है, लेकिन जब फैसलों का असर लोगों के अधिकारों, कल्याण या गरिमा पर पड़ता हो, तब वह मानवीय विवेक, जिम्मेदारी और नैतिक जवाबदेही को समाप्त नहीं कर सकता।

कानून बनाने वालों के लिए संदेश: AI की ताकत कुछ हाथों में सिमट रही है

21 अगस्त को इंटरनेशनल कैथोलिक लेजिसलेटर्स नेटवर्क को दिए भाषण में लियो ने विधायकों की राजनीतिक जिम्मेदारी पर ध्यान केंद्रित किया। वेटिकन ने इस बैठक की थीम “मानव गरिमा और कृत्रिम बुद्धिमत्ता: चुनौतियां, अवसर और नियंत्रण” बताई—यानी AI का नियमन इस दौर के निर्णायक सवालों में से एक है।

चिंता केवल यह नहीं है कि कुछ AI प्रणालियां गलतियां कर सकती हैं। बड़ा सवाल यह है कि उन्नत तकनीक और उसके इस्तेमाल को दिशा देने की शक्ति कहीं कुछ बड़े आर्थिक और तकनीकी खिलाड़ियों के हाथों में केंद्रित न हो जाए। लियो ने चेताया कि इससे गरीब देश अमीर देशों पर और अधिक निर्भर हो सकते हैं तथा मौजूदा असमानताएं गहरी हो सकती हैं।

उन्होंने यह भी कहा कि नवाचार “वैचारिक या आर्थिक उपनिवेशवाद” का माध्यम बन सकता है। इससे AI का शासन केवल किसी एक देश का घरेलू नियामकीय मुद्दा नहीं रह जाता, बल्कि अंतरराष्ट्रीय न्याय और शक्ति-संतुलन का प्रश्न बन जाता है।

एल्गोरिद्म वर्चस्व का एक सूक्ष्म रूप पैदा कर सकते हैं

लियो ने ऐसे खतरे की ओर भी इशारा किया जिसमें एल्गोरिद्म और डिजिटल प्लेटफॉर्म सीधे शासन करते हुए दिखाई नहीं देते, फिर भी समाज पर गहरा प्रभाव डालते हैं। उनके अनुसार, एल्गोरिद्म यह तय कर सकते हैं कि कौन दिखाई देगा और कौन अदृश्य रह जाएगा; डिजिटल प्लेटफॉर्म बिना पर्याप्त जवाबदेही के सार्वजनिक विमर्श को प्रभावित कर सकते हैं; और स्वचालित प्रणालियां कामगारों की गरिमा को केवल बेहतर प्रदर्शन या अनुकूलन के लक्ष्य के नीचे दबा सकती हैं।

यह समस्या केवल तकनीकी पक्षपात तक सीमित नहीं है। सवाल यह भी है कि दृश्यता, भागीदारी और अवसर के नियम कौन तय करता है—और क्या इन फैसलों से प्रभावित लोगों के पास उन्हें चुनौती देने का कोई सार्थक रास्ता है। जब निजी और अपारदर्शी प्रणालियां सार्वजनिक बातचीत या काम तक पहुंच को प्रभावित करती हैं, तो सामाजिक शक्ति लोकतांत्रिक संस्थाओं और सार्वजनिक निगरानी से दूर जा सकती है।

परिवार पर इतना जोर क्यों?

लियो ने परिवार को “मानवता का पहला विद्यालय” बताया और विधायकों से AI को परिवार की भूमिका कमजोर करने से रोकने का आग्रह किया।

उनका तर्क है कि इंसान रिश्तों के भीतर भरोसा, जिम्मेदारी, उदारता, संवाद और दूसरों के प्रति संवेदनशीलता सीखता है। ये गुण AI प्रणाली की गति या गणना क्षमता के समान नहीं हैं। Magnifica Humanitas भी मशीन के प्रदर्शन को मानव बुद्धिमत्ता समझने से सावधान करता है: AI कुछ बौद्धिक कार्यों की नकल कर सकता है और गति व गणना में इंसानों से आगे निकल सकता है, लेकिन उसके पास मानवीय अनुभव या देहधारी अस्तित्व नहीं होता। 16

इसलिए लियो के लिए परिवार की रक्षा AI नीति का हिस्सा है। सवाल केवल यह नहीं कि कोई प्रणाली कितनी कुशल है, बल्कि यह भी है कि उसका इस्तेमाल उन रिश्तों और संस्थाओं को मजबूत करता है या नहीं जिनके माध्यम से लोग स्वतंत्रता, जिम्मेदारी और एकजुटता सीखते हैं।

विधायकों से मांगे गए प्रमुख सुरक्षा उपाय

लियो की सिफारिशें AI शासन के लिए मानव-केंद्रित ढांचे की ओर इशारा करती हैं:

• मौलिक अधिकारों और स्वतंत्रताओं की रक्षा: कानून यह सुनिश्चित करें कि तकनीकी प्रगति मानव गरिमा की कीमत पर न हो।
• निजता की सुरक्षा: उपयोगकर्ताओं को शोषण और निजी जानकारी के अनुचित इस्तेमाल से बचाया जाए।
• पारदर्शिता अनिवार्य हो: लोगों और संस्थाओं को यह समझने का अधिकार हो कि उभरती तकनीकों का इस्तेमाल कैसे किया जा रहा है और महत्वपूर्ण फैसले किस आधार पर लिए जा रहे हैं।
• लोकतांत्रिक संस्थाओं को मजबूत किया जाए: डिजिटल प्रणालियां जवाबदेह सार्वजनिक शासन को मजबूत करें, उसे दरकिनार न करें।
• जिम्मेदारी इंसानों के पास रहे: मानव जीवन और गरिमा को प्रभावित करने वाले फैसले सार्थक मानवीय नियंत्रण के बिना मशीनों को न सौंपे जाएं।
• वर्चस्व और अत्यधिक केंद्रीकरण पर रोक हो: शासन-व्यवस्था उन जोखिमों से निपटे जो उन्नत AI के कुछ शक्तिशाली समूहों के नियंत्रण में आने से पैदा होते हैं।

ये उपाय विश्वपत्र के उस व्यापक तर्क को दर्शाते हैं कि तकनीक सामाजिक रूप से तटस्थ नहीं होती। वह भागीदारी और न्याय को बढ़ावा दे सकती है, लेकिन असमानता, नियंत्रण और बहिष्कार को भी तेज कर सकती है।

Magnifica Humanitas से इन भाषणों का संबंध

मई 2026 में प्रकाशित Magnifica Humanitas AI के दौर में मानव व्यक्ति की रक्षा को समर्पित है। इसका केंद्रीय सवाल है कि क्या तकनीक मानवता के हित में बनी रहती है या वर्चस्व, बहिष्कार और युद्ध का साधन बन जाती है। विश्वपत्र AI को इन विनाशकारी प्रवृत्तियों से “निरस्त्र” करने का आह्वान करता है। 51016

अगस्त के भाषणों में इसी सिद्धांत को दो समूहों की जिम्मेदारियों में बदला गया। सार्वजनिक प्रशासकों को सुनिश्चित करना होगा कि डिजिटल प्रणालियां नागरिकों की सेवा करें और मानवीय निर्णय को सुरक्षित रखें। विधायकों को अधिकारों, निजता, पारदर्शिता और लोकतांत्रिक जीवन की रक्षा करने वाले नियम बनाने होंगे। वहीं शोधकर्ताओं की भूमिका ऐसे व्यावहारिक तरीके तलाशने की है जिनसे डिजिटल तकनीक जीवन और शांति की सेवा कर सके।

कुल मिलाकर, लियो की चेतावनी रोकथाम पर केंद्रित है। वह समाजों से कह रहे हैं कि AI प्रणालियों के और अधिक विकसित व व्यापक होने से पहले ही मानव-केंद्रित नियम बनाए जाएं—ऐसा न हो कि अपारदर्शी प्लेटफॉर्म, केंद्रित शक्ति और स्वचालित फैसले इतने मजबूत हो जाएं कि उन्हें लोकतांत्रिक तरीके से चुनौती देना मुश्किल हो। उनका मानक सीधा है: AI को सार्वजनिक हित का विस्तार करना चाहिए, उस मानव जिम्मेदारी को विस्थापित नहीं करना चाहिए जो यह तय करती है कि सार्वजनिक हित क्या है और उसकी रक्षा कैसे की जाए।