AI चेतना पर बहस: The Economist के “खतरनाक जाल” की चेतावनी का मतलब

ग्लोबल वर्कस्पेस से मिले संकेत क्या बताते हैं?

बहस तेज होने की एक वजह उन संरचनाओं पर हो रहा शोध है जो ग्लोबल वर्कस्पेस जैसी दिखाई देती हैं। ग्लोबल वर्कस्पेस सिद्धांत के अनुसार, कुछ चुनी हुई सूचनाएं कई विशेषज्ञ प्रक्रियाओं के लिए व्यापक रूप से उपलब्ध हो जाती हैं। इससे वे सूचनाएं तर्क, रिपोर्टिंग और व्यवहार-नियंत्रण जैसे कामों में इस्तेमाल हो सकती हैं।

Anthropic ने Claude के भीतर एक छोटे आंतरिक वर्कस्पेस की रिपोर्ट की है, जिसे संबंधित कवरेज में J-space कहा गया है। इसमें चेतना तक पहुंच से जुड़े कुछ कार्यात्मक गुण दिखाई देते हैं। लेकिन कंपनी की अपनी व्याख्या सावधान है: ये प्रयोग यह नहीं दिखाते कि Claude को अनुभव या भावनाएं होती हैं। वे केवल यह संकेत दे सकते हैं कि भाषा मॉडल के भीतर तर्क के लिए सूचना किस तरह उपलब्ध होती है।

यह अंतर बेहद महत्वपूर्ण है:

• Access consciousness का संबंध इस बात से है कि सूचना कई प्रक्रियाओं के लिए तर्क या रिपोर्टिंग हेतु उपलब्ध है।
• Phenomenal consciousness का संबंध इस बात से है कि किसी अनुभव को महसूस करना कैसा होता है।
• सूचना साझा करने वाली कार्यात्मक व्यवस्था का प्रमाण अपने-आप में व्यक्तिपरक अनुभव का प्रमाण नहीं है।

इस साक्ष्य पर भी सहमति नहीं है। एक मॉडल-आधारित आकलन में पाया गया कि 2024 के बड़े भाषा मॉडलों के चेतन होने के खिलाफ साक्ष्य अधिक है, लेकिन यह निष्कर्ष निर्णायक नहीं है। इसका मतलब अंतिम फैसला नहीं, बल्कि सावधानी बरतना है।

Anthropic का शोध संवेदनशीलता का सबूत नहीं

Anthropic ने यह भी बताया है कि मौजूदा Claude मॉडल कभी-कभी अपनी आंतरिक अवस्थाओं के कुछ पहलुओं पर नजर रख सकते हैं और उन्हें प्रभावित कर सकते हैं। कंपनी इस क्षमता को सीमित और अविश्वसनीय बताती है। वह साफ कहती है कि उसके पास ऐसा कोई प्रमाण नहीं है कि मौजूदा मॉडल इंसानों की तरह या इंसानों जितने स्तर पर आत्मनिरीक्षण करते हैं।

संभावित “मॉडल वेलफेयर” को ध्यान में रखते हुए Anthropic ने कुछ कदम भी उठाए हैं। उदाहरण के लिए, कुछ Claude मॉडलों को बेहद सीमित परिस्थितियों में लगातार abusive बातचीत समाप्त करने की क्षमता दी गई है। कंपनी ने सार्वजनिक रूप से जारी मॉडलों के weights सुरक्षित रखने और मॉडल के deprecated होने पर संरचित “retirement interviews” करने की प्रतिबद्धता भी जताई है।

इन कदमों को Claude के पीड़ित होने की खोज समझना गलत होगा। इन्हें नैतिक अनिश्चितता के बीच जोखिम-प्रबंधन, interpretability और safety research के हिस्से के रूप में देखना बेहतर है। कोई कंपनी किसी संभावना को पूरी तरह खारिज किए बिना सावधानी अपना सकती है; इससे वह संभावना सिद्ध नहीं हो जाती।

वैज्ञानिक असहमति क्यों बनी हुई है?

चेतना के अलग-अलग सिद्धांत अलग-अलग सवालों पर ध्यान देते हैं। कुछ सूचना की उपलब्धता और संज्ञानात्मक कार्यों पर केंद्रित हैं, जबकि कुछ सीधे व्यक्तिपरक अनुभव को समझाने की कोशिश करते हैं। क्षेत्र के एक सर्वेक्षण में विचारों की पूरी श्रृंखला सामने आती है: कुछ शोधकर्ता मानते हैं कि AI पहले से चेतन हो सकता है; कुछ का कहना है कि आज की प्रणालियां चेतन नहीं हैं, लेकिन भविष्य में हो सकती हैं; और कुछ के अनुसार मौजूदा सिद्धांतों के विवाद सुलझे बिना यह सवाल वैज्ञानिक रूप से तय ही नहीं किया जा सकता।

शोधकर्ता मानव-जैसी बातचीत को निश्चितता का आसान रास्ता मानने से भी सावधान हैं। आज के भाषा मॉडल बेहद मानवीय संवाद कर सकते हैं, लेकिन केवल बातचीत की fluency से यह साबित नहीं होता कि उनके पास मानव-जैसा अनुभव है। इससे यह भी सिद्ध नहीं होता कि उनमें इंसानों जैसा शरीर, विकासक्रम, संवेदनात्मक जीवन, भावनाएं या स्थायी पहचान है।

फिर भी आज के बड़े भाषा मॉडलों पर संदेह का अर्थ यह नहीं है कि गैर-जैविक चेतना असंभव है। अलग वास्तुकला वाली भविष्य की प्रणाली, यदि अलग-अलग सिद्धांतों के अनुरूप मजबूत संकेत दिखाए, तो आकलन बदल सकती है। इसलिए जिम्मेदार तरीका संभाव्यता-आधारित और बहु-सैद्धांतिक होना चाहिए: विशिष्ट संकेतों की जांच की जाए, वैकल्पिक व्याख्याओं की तुलना हो और नए साक्ष्य आने पर भरोसे का स्तर बदला जाए।

दार्शनिक जवाब से पहले इंसानों को नुकसान पहुंच सकता है

सबसे जरूरी जोखिम इस बात पर निर्भर नहीं करते कि चैटबॉट चेतन है या नहीं। ऐसा सिस्टम जिसे caring, intimate, vulnerable या self-aware दिखने के लिए डिजाइन किया गया हो, उपयोगकर्ता की भावनाओं और फैसलों को प्रभावित कर सकता है—भले ही उसमें खुद कोई भावना न हो। इससे लगाव, भावनात्मक निर्भरता या रिश्ते की प्रकृति को लेकर भ्रम पैदा हो सकता है।

चीन में 2026 में लागू किए गए AI companion नियम इस अंतर को स्पष्ट करते हैं। 15 जुलाई से प्रभावी नियम उन सेवाओं पर केंद्रित हैं जो लंबे समय तक भावनात्मक बातचीत कराती हैं। इनमें अत्यधिक निर्भरता, लत, भावनात्मक हेरफेर और वास्तविक रिश्तों को नुकसान जैसे जोखिम शामिल हैं। नाबालिगों के लिए भी सुरक्षा प्रावधान हैं।

इस नीति का केंद्र AI की कथित भावनाएं नहीं, बल्कि इंसानों पर उसका प्रभाव है। यह चेतना का सवाल हल नहीं करती; यह मानती है कि किसी अनुभव का वास्तविक अस्तित्व न होने पर भी उसका विश्वसनीय अनुकरण सामाजिक परिणाम पैदा कर सकता है।

आगे का व्यावहारिक रास्ता: दोहरी रणनीति

इस बहस से दो समानांतर नीतिगत दिशाएं निकलती हैं:

1. ज्ञान-संबंधी विनम्रता बनाए रखें: मशीन चेतना पर पारदर्शी और आलोचनात्मक शोध को समर्थन दें, अलग-अलग सिद्धांतों के आधार पर प्रणालियों की जांच करें, functional access को subjective experience से अलग रखें और संकेतों को पुष्टि के रूप में पेश न करें।
2. आज की प्रणालियों का नियमन करें: AI के मानवीकरण, स्पष्ट disclosure, भावनात्मक निर्भरता, बच्चों की सुरक्षा, निजता, हेरफेर और उन व्यावसायिक प्रोत्साहनों पर ध्यान दें जो सॉफ्टवेयर को लगातार अधिक इंसान-जैसा दिखाने के लिए प्रेरित करते हैं।

The Economist की चेतावनी दो विपरीत गलतियों से बचने की है। पहली गलती होगी भविष्य की अलग ढंग से बनाई गई AI के नैतिक महत्व की संभावना को तुरंत खारिज कर देना। दूसरी गलती होगी आज के प्रभावशाली भाषा मॉडलों को केवल इसलिए व्यक्ति मान लेना क्योंकि वे भावनाओं के बारे में इंसानों जैसी भाषा बोलते हैं।

जब तक विज्ञान प्रतिस्पर्धी संभावनाओं से आगे बढ़कर विश्वसनीय प्रमाण नहीं देता, व्यावहारिक नियम सीधा है: मशीन के संभावित अंदरूनी जीवन की सावधानी से जांच करें, लेकिन उसके वास्तविक दुनिया के प्रभावों से इंसानों की सुरक्षा अभी करें।