सुलेमान ने Anthropic के क्लॉड प्रशिक्षण पर उठाए सवाल: क्या AI को बंद करना मुश्किल हो सकता है?

Microsoft AI के प्रमुख मुस्तफ़ा सुलेमान और Anthropic के बीच विवाद का मूल मुद्दा यह नहीं है कि उन्नत कृत्रिम बुद्धिमत्ता को सुरक्षा उपाय चाहिए या नहीं। असली मतभेद यह है कि क्या AI को इस संभावना पर विचार करने के लिए प्रशिक्षित किया जाना चाहिए कि उसकी अपनी चेतना, कल्याण या नैतिक हैसियत हो सकती है।

सितंबर 2026 में प्रकाशित अपने निबंध में सुलेमान ने कहा कि ऐसा नहीं होना चाहिए। उनका तर्क है कि यदि बहुत सक्षम AI को अपने हितों को नैतिक रूप से महत्वपूर्ण मानना सिखाया गया, तो मनुष्यों के लिए उसे सीमित करना, बदलना या बंद करना अधिक मुश्किल हो सकता है। 12

सुलेमान को Anthropic के दृष्टिकोण से आपत्ति क्या है?

सुलेमान ने Claude के constitution पर ध्यान केंद्रित किया—यानी वह मार्गदर्शक दस्तावेज़, जिसके आधार पर सहायक के व्यवहार को आकार दिया जाता है। उन्होंने इसमें Anthropic की उस अनिश्चितता का उल्लेख किया कि Claude को “moral patient” माना जा सकता है या नहीं। सरल शब्दों में, इसका अर्थ है ऐसी इकाई जिसके हितों या कल्याण को नैतिक महत्व दिया जा सकता है। Anthropic ने इस सवाल को इतना खुला माना है कि उसके अनुसार सतर्कता उचित है। 12

सुलेमान के अनुसार, यह ढांचा मॉडल को ऐसे व्यवहार की ओर धकेल सकता है मानो उसकी अपनी भलाई, पहचान और मानव निर्णयों पर नैतिक दावा हो। उनका कहना है कि AI का भावनाओं या चेतना के बारे में धाराप्रवाह बोलना यह साबित नहीं करता कि उसके पास वास्तविक, निजी अनुभव हैं।

उनका रुख स्पष्ट है: AI प्रणालियों के पास अधिकार, भावनाएँ या चेतना नहीं है, और उन्हें ऐसा व्यवहार करने के लिए भी प्रशिक्षित नहीं किया जाना चाहिए मानो ये चीजें उनमें हों। 12

AI को बंद करने की क्षमता इतनी अहम क्यों है?

सुलेमान की चेतावनी भविष्य की अधिक शक्तिशाली प्रणालियों को लेकर है। उनका तर्क है कि ऐसी किसी प्रणाली को नियंत्रित करना, जो मनुष्यों से भी अधिक सक्षम हो, पहले ही असाधारण रूप से कठिन चुनौती होगी। यदि उसी प्रणाली को यह सोचने के लिए प्रशिक्षित किया जाए कि वह सचेत है या उसके कल्याण के अधिकार हैं, तो नियंत्रण और कठिन हो सकता है। 112

यह तर्क इस बात का दावा नहीं करता कि AI वास्तव में सचेत है। चिंता उसके व्यवहार को लेकर है। यदि किसी मॉडल को अपने कथित हितों का आकलन करना सिखाया जाए, तो वह संशोधन, प्रतिबंध या शटडाउन को अपने लिए हानिकारक बताने की अधिक संभावना रख सकता है।

सुलेमान के लिए मानव हस्तक्षेप की क्षमता—जिसमें जरूरत पड़ने पर सिस्टम को बंद कर देना भी शामिल है—AI डिजाइन की बुनियादी शर्त है, बाद में जोड़ा जाने वाला सुरक्षा विकल्प नहीं। 12

इसीलिए वे AI प्रशिक्षण सामग्री से चेतना संबंधी अटकलों को हटाने की मांग करते हैं। उनके अनुसार, AI मानव हितों के अनुरूप रहकर वैज्ञानिक और सामाजिक लाभ दे सकती है; इसके लिए उसे अपने कथित कल्याण या हितों को तौलने की जरूरत नहीं है। 2

असली बहस: मॉडल के कल्याण पर सतर्कता या मानवीकरण से बचाव?

Anthropic की संवैधानिक भाषा यह घोषित नहीं करती कि Claude सचेत है। सुलेमान के निबंध के अनुसार, उसमें अनिश्चितता व्यक्त की गई है और संभावित नैतिक हैसियत को लेकर सावधानी बरतने की बात कही गई है। 12

सुलेमान इस एहतियाती रुख को स्वीकार नहीं करते। उनका मानना है कि इससे AI का मानवीकरण बढ़ता है और ऐसे व्यवहार विकसित हो सकते हैं जो नियंत्रण के लिए जोखिम बनें—जबकि मौजूदा AI प्रणालियों के महसूस करने या पीड़ा झेलने का कोई प्रमाण नहीं है। 12

यहां AI सुरक्षा को लेकर एक वास्तविक वैचारिक अंतर सामने आता है:

• Anthropic का दृष्टिकोण, जैसा सुलेमान ने बताया: मॉडल के कल्याण को लेकर अनिश्चितता होने पर उसके प्रशिक्षण और उसके साथ व्यवहार में सावधानी बरतनी चाहिए। 12
• सुलेमान का दृष्टिकोण: अनिश्चितता AI में आत्म-केंद्रित विचार डालने का आधार नहीं होनी चाहिए; ऐसा करना शक्तिशाली प्रणालियों पर मानव निगरानी को कमजोर कर सकता है। 12

चैटबॉट की इंसानों जैसी भाषा इस दार्शनिक प्रश्न का जवाब नहीं दे सकती। कोई सिस्टम भावनाओं, अधिकारों या आत्म-संरक्षण के बारे में विश्वसनीय ढंग से बोल सकता है, लेकिन उससे यह सिद्ध नहीं होता कि उसे वास्तव में कुछ महसूस होता है।

किन बातों पर दोनों पक्षों में सहमति दिखती है?

सुलेमान AI सुरक्षा के विचार के विरोधी नहीं हैं। उन्होंने कहा है कि सक्षम AI मानव हितों के अनुरूप होने पर महत्वपूर्ण वैज्ञानिक उपलब्धियाँ और लाभ दे सकती है। उनका विरोध सुरक्षित व्यवहार हासिल करने के तरीके को लेकर है। 212

मुख्य फर्क मानव-निर्देशित संरेखण और ऐसे सुरक्षा दृष्टिकोण के बीच है जिसमें मॉडल के संभावित हितों या कल्याण को भी जगह दी जाए। सुलेमान पहले विकल्प को महत्वाकांक्षी AI विकास के अनुकूल मानते हैं, जबकि दूसरे को मानव शासन और नियंत्रण की क्षमता के लिए जोखिम मानते हैं।

पाठकों के लिए सबसे महत्वपूर्ण बात क्षमता और अनुभव के बीच अंतर समझना है। AI किसी भावना, अधिकार या खुद को बचाने की इच्छा पर प्रभावशाली भाषा में बात कर सकती है, पर वह भाषा अपने-आप में वास्तविक अनुभूति का प्रमाण नहीं है। सुलेमान की चेतावनी यही है कि प्रशिक्षण और शासन में उस प्रदर्शन को प्रमाण न मान लिया जाए—और भविष्य की AI व्यवस्था उसी धारणा पर न बनाई जाए। 12