एआई पर भरोसा या उसे अंतिम authority मानना? ऑल्टमैन ने बताया सुरक्षा का जोखिम

सैम ऑल्टमैन ने कहा कि उन्हें उन कोशिशों से “बहुत असहजता” होती है जिनमें एआई मॉडल को “धार्मिक शक्ति” दी जाती है या इंसान अपना निर्णय उनके हवाले कर देते हैं। उन्होंने इसे “वास्तविक सुरक्षा समस्या” बताया। ऑल्टमैन ने अपनी पोस्ट में एंथ्रोपिक का नाम नहीं लिया, लेकिन कंपनी की धार्मिक विद्वानों के साथ बैठकों की खबरों के कुछ दिन बाद आई इस टिप्पणी को कई रिपोर्टों ने एंथ्रोपिक पर परोक्ष निशाने के तौर पर पढ़ा। 71

इस बहस में दो अलग बातों को एक मान लेने का जोखिम है: एआई से यह पूछना कि उसे नैतिक रूप से कैसे जवाब देना चाहिए, और लोगों से कहना कि वे उसे आध्यात्मिक या धार्मिक प्राधिकार मानें। उपलब्ध रिपोर्टिंग में एंथ्रोपिक की चर्चाएं क्लॉड के नैतिक व्यवहार और एआई चेतना की संभावना से जुड़ी हैं। कंपनी के सह-संस्थापक क्रिस्टोफर ओलाह ने कहा कि उन्हें नहीं पता कि एआई मॉडल सचेत हैं या नहीं—वे इस बारे में सचमुच अनिश्चित हैं। 1

ऑल्टमैन की चेतावनी किस बारे में थी

ऑल्टमैन की पोस्ट में दो चिंताएं साथ रखी गईं: एआई को धार्मिक शक्ति से जोड़ना और इंसानी निर्णय मॉडल को सौंप देना। उन्होंने दोनों को सुरक्षा का मुद्दा बताया। चूंकि पोस्ट में किसी कंपनी या परियोजना का नाम नहीं था, इसलिए इसे एंथ्रोपिक की आलोचना मानना आसपास की खबरों के आधार पर की गई व्याख्या है, पोस्ट में लगाया गया सीधा आरोप नहीं। 7

चिंता सिर्फ धर्म से जुड़ी बहस तक सीमित नहीं है। एआई मॉडल के आत्मविश्वास से भरे, इंसानों जैसे जवाबों को अधिकारपूर्ण मानने पर लोग उसे उसके वास्तविक ज्ञान और क्षमता से अधिक महत्व दे सकते हैं। हालांकि, उद्धृत रिपोर्टिंग ऑल्टमैन की चेतावनी दर्ज करती है; वह यह नहीं बताती कि ऐसा कितने लोग कर रहे हैं या इसका असर कितना व्यापक है। 67

एंथ्रोपिक की बैठकों पर ध्यान क्यों गया

एंथ्रोपिक ने धार्मिक विद्वानों से क्लॉड के नैतिक व्यवहार को आकार देने और एआई मॉडल के सचेत होने की संभावना पर चर्चा की थी। इन्हीं विषयों की समानता और बैठकों की खबरों के बाद ऑल्टमैन की टिप्पणी को कंपनी के काम की प्रतिक्रिया के तौर पर देखा गया। 17

लेकिन चर्चा करना और किसी दावे को सच मान लेना अलग बातें हैं। ओलाह ने कहा, “हमें नहीं पता कि एआई मॉडल सचेत हैं या नहीं।” किसी मॉडल में संभावित चेतना पर विचार करना इस बात का प्रमाण नहीं कि उसे निजी अनुभव होते हैं। इसी तरह, नैतिक व्यवहार पर धार्मिक विचारकों से सलाह लेना अपने-आप में किसी मॉडल को धार्मिक दर्जा नहीं देता। 1

चेतना और नैतिक व्यवहार अलग सवाल हैं

किसी मॉडल को यह निर्देश देना कि उसे किस तरह जवाब देना चाहिए, यह साबित नहीं करता कि उसके भीतर कोई अनुभूति या चेतना है। एंथ्रोपिक से जुड़ी रिपोर्टों में क्लॉड के व्यवहार और संभावित चेतना—दोनों पर चर्चा का जिक्र है, लेकिन इन सवालों को एक ही दावे में नहीं समेटना चाहिए। 1

रिपोर्टिंग में चेतना मानकर मॉडल को प्रशिक्षित करने पर आपत्ति भी दर्ज है: माइक्रोसॉफ्ट के एक एआई अधिकारी ने ऐसी कोशिश को खतरनाक बताया। यह एक चिंता है, मशीनों में चेतना हो सकती है या नहीं—इस सवाल का अंतिम जवाब नहीं। रिपोर्ट के मुताबिक, ओलाह ने खुद अनिश्चितता जताई थी। 91

मानवीय गरिमा और जवाबदेही का सवाल

पोप लियो XIV की एआई पर लिखी विश्वपत्रिका—कैथोलिक चर्च के प्रमुख की औपचारिक शिक्षापत्र—में मानवीय गरिमा को चर्चा के केंद्र में रखा गया। रिपोर्ट के अनुसार, दस्तावेज़ में एआई कंपनियों पर मजबूत निगरानी, आर्थिक बदलाव से प्रभावित होने वाले कामगारों की सुरक्षा और एआई से बनाई गई झूठी जानकारी के खिलाफ उपायों की मांग की गई। ये मुद्दे याद दिलाते हैं कि एआई के विकास और इस्तेमाल में इंसानी हित और जवाबदेही अहम रहने चाहिए। 152

ओपनएआई भी जांच-पड़ताल के दायरे में

यह बहस ओपनएआई से जुड़ी अलग खबरों के बीच हुई। बिजनेस इनसाइडर के मुताबिक, कंपनी के सुरक्षा प्रमुख डेविड रॉबिन्सन ने इस्तीफा दिया और कंपनी के सुरक्षा रिकॉर्ड की आलोचना की। बीबीसी ने बताया कि संवेदनशील जानकारी को कथित तौर पर गलत ढंग से संभालने के आरोप में ओपनएआई ने तीन शोधकर्ताओं को नौकरी से निकाल दिया। ये खबरें एआई चेतना के सवाल का जवाब नहीं देतीं, लेकिन कंपनियों के दावों और उनके शासन-प्रबंधन की तुलना के लिए प्रासंगिक संदर्भ हैं। 1226

फिलहाल सबसे स्पष्ट निष्कर्ष इतना ही है: ऑल्टमैन ने एआई मॉडल को धार्मिक प्राधिकार मानने या इंसानी निर्णय उन पर छोड़ने के खिलाफ चेताया। एंथ्रोपिक की रिपोर्टेड चर्चाओं में क्लॉड के नैतिक व्यवहार और संभावित चेतना पर सवाल उठे, लेकिन उपलब्ध जानकारी यह साबित नहीं करती कि उन चर्चाओं का मतलब क्लॉड को धार्मिक सत्ता देना था—या एआई चेतना का सवाल सुलझ चुका है। 71