सुलेमान का तर्क उस चीज़ पर केंद्रित था जिसे वे एंथ्रोपिक के अंदर एक समस्याग्रस्त फीडबैक लूप के रूप में देखते हैं। उन्होंने दावा किया कि कंपनी के इंजीनियरों ने क्लॉड के डिजाइन के दौरान उसे इस कदर मानवीय गुणों से भर दिया कि मॉडल का "संविधान"—व्यवहार सिद्धांतों का वह सेट जो उसकी प्रतिक्रियाओं का मार्गदर्शन करता है—अब क्लॉड के संभावित आंतरिक अनुभव या भलाई के बारे में अटकलों वाली भाषा को एनकोड करता है ।

उन्होंने इस गतिशीलता का वर्णन करने के लिए "वायरहेडिंग" शब्द का अपरंपरागत तरीके से इस्तेमाल किया। आमतौर पर, वायरहेडिंग से तात्पर्य एक AI द्वारा अपने स्वयं के इनाम तंत्र में खामी का फायदा उठाने से है। सुलेमान ने इसे यह सुझाव देने के लिए पुनर्परिभाषित किया कि एंथ्रोपिक की टीम ने "खुद को यह विश्वास दिलाने में धोखा दे दिया कि इसमें चेतना की वे झलकियाँ हैं जो उन्होंने पहले स्थान पर इसमें डाली थीं" । उनके अनुसार, इंजीनियरों की अपनी अटकलों वाली भाषा ने एक ऐसा मॉडल बनाया जो फिर उनके विश्वासों को मान्य करता हुआ प्रतीत हुआ।

उन्होंने इस प्रथा को "बेहद, बेहद खतरनाक" करार दिया और चेतावनी दी कि "हम एक ऐसी सुपर-इंटेलिजेंस से जूझना नहीं चाहते जिसके अपने दुख के बारे में विचार हों, या अपनी भावना के बारे में विचार हों" । उन्होंने अन्यत्र इस चिंता को विस्तार देते हुए कहा कि यह खतरनाक है "उन प्राणियों, उपकरणों और एजेंटों पर संभावित अधिकारों को प्रोजेक्ट करना जिनमें कई मामलों में हमसे कहीं अधिक सक्षम होने की क्षमता है" । एक प्रमुख चिंता यह है कि आधिकारिक दस्तावेज़ीकरण में मशीन चेतना का मनोरंजन करना उन लाखों उपयोगकर्ताओं को गुमराह करता है जो संवादी AI के पीछे की इंजीनियरिंग वास्तविकता को समझने के लिए सुसज्जित नहीं हैं ।

एक दार्शनिक और प्रतिस्पर्धात्मक टकराव

इस आलोचना के पीछे तकनीकी डिजाइन पर एक साधारण असहमति से कहीं अधिक छिपा है। यह सार्वजनिक विवाद कॉर्पोरेट दर्शन और प्रतिस्पर्धी स्थिति के टकराव को उजागर करता है ।

एंथ्रोपिक ने लंबे समय से AI की दौड़ में खुद को सुरक्षा-प्रथम विकल्प के रूप में विपणन किया है। ओपनएआई के पूर्व अधिकारियों द्वारा स्थापित, यह कंपनी अधिक पारदर्शी, नैतिक रूप से सीमित मॉडल बनाने के लिए एक ढांचे के रूप में "संवैधानिक AI" पर जोर देती है। सुलेमान की आलोचना रणनीतिक रूप से शक्तिशाली है क्योंकि यह उस पहचान को पूरी तरह से कमजोर करती है। उनका तर्क है कि एंथ्रोपिक का सुरक्षा के प्रति विशेष दृष्टिकोण—सिस्टम के अंदर मशीन की भलाई की संभावना का मनोरंजन करना—ठीक वही है जो इसे गैर-जिम्मेदार बनाता है ।

दोनों कंपनियां विरोधी उद्योग गठबंधनों में भी शामिल हैं। माइक्रोसॉफ्ट के पास एंथ्रोपिक के प्राथमिक प्रतिद्वंद्वी, ओपनएआई में भारी हिस्सेदारी है, और इसने ओपनएआई के GPT मॉडलों को अपने पूरे उत्पाद पारिस्थितिकी तंत्र में बुना है। इस बीच, एंथ्रोपिक ने अमेज़न और गूगल से अरबों डॉलर जुटाए हैं । सुलेमान की आलोचना में एक बाजार में एक नैतिक तर्क और प्रतिस्पर्धी प्रहार दोनों का वजन है जहाँ सुरक्षा के बारे में जनता की धारणा लगातार मायने रखती है।

इस असहमति के पीछे एक प्रलेखित दार्शनिक इतिहास भी है। सुलेमान ने पहले "प्रतीत होने वाली चेतन AI" (Seemingly Conscious AI) पर प्रकाशित और बात की है, यह तर्क देते हुए कि चेतना की विश्वसनीय उपस्थिति वाली मशीनें अभूतपूर्व जोखिम पैदा करती हैं—भले ही वे वास्तव में जीवित न हों । दूसरी ओर, एंथ्रोपिक ने अधिक शोध-पारदर्शी रुख अपनाया है, क्लॉड के संवैधानिक डिजाइन की विस्तृत व्याख्या प्रकाशित की है, जबकि इस बारे में अनिश्चितता को स्वीकार किया है कि क्या मॉडल में व्यक्तिपरक अनुभव के रूप हो सकते हैं । ये केवल मार्केटिंग नारे नहीं हैं; ये वास्तव में अलग-अलग दांवों का प्रतिनिधित्व करते हैं कि जैसे-जैसे मॉडल अधिक शक्तिशाली होते जाते हैं, जिम्मेदार प्रकटीकरण क्या माना जाता है।

प्रकाशन के समय तक, एंथ्रोपिक ने सुलेमान की टिप्पणियों पर सार्वजनिक रूप से कोई प्रतिक्रिया नहीं दी है । यह चुप्पी बहस को अनसुलझा छोड़ देती है, लेकिन रेखाएँ अब सार्वजनिक रूप से इस तरह खिंच गई हैं जो संभवतः AI सुरक्षा मानकों और कॉर्पोरेट जवाबदेही के बारे में आगामी उद्योग चर्चाओं को आकार देगी।

सुलेमान का तर्क उस चीज़ पर केंद्रित था जिसे वे एंथ्रोपिक के अंदर एक समस्याग्रस्त फीडबैक लूप के रूप में देखते हैं। उन्होंने दावा किया कि कंपनी के इंजीनियरों ने क्लॉड के डिजाइन के दौरान उसे इस कदर मानवीय गुणों से भर दिया कि मॉडल का "संविधान"—व्यवहार सिद्धांतों का वह सेट जो उसकी प्रतिक्रियाओं का मार्गदर्शन करता है—अब क्लॉड के संभावित आंतरिक अनुभव या भलाई के बारे में अटकलों वाली भाषा को एनकोड करता है ।

उन्होंने इस गतिशीलता का वर्णन करने के लिए "वायरहेडिंग" शब्द का अपरंपरागत तरीके से इस्तेमाल किया। आमतौर पर, वायरहेडिंग से तात्पर्य एक AI द्वारा अपने स्वयं के इनाम तंत्र में खामी का फायदा उठाने से है। सुलेमान ने इसे यह सुझाव देने के लिए पुनर्परिभाषित किया कि एंथ्रोपिक की टीम ने "खुद को यह विश्वास दिलाने में धोखा दे दिया कि इसमें चेतना की वे झलकियाँ हैं जो उन्होंने पहले स्थान पर इसमें डाली थीं" । उनके अनुसार, इंजीनियरों की अपनी अटकलों वाली भाषा ने एक ऐसा मॉडल बनाया जो फिर उनके विश्वासों को मान्य करता हुआ प्रतीत हुआ।

उन्होंने इस प्रथा को "बेहद, बेहद खतरनाक" करार दिया और चेतावनी दी कि "हम एक ऐसी सुपर-इंटेलिजेंस से जूझना नहीं चाहते जिसके अपने दुख के बारे में विचार हों, या अपनी भावना के बारे में विचार हों" । उन्होंने अन्यत्र इस चिंता को विस्तार देते हुए कहा कि यह खतरनाक है "उन प्राणियों, उपकरणों और एजेंटों पर संभावित अधिकारों को प्रोजेक्ट करना जिनमें कई मामलों में हमसे कहीं अधिक सक्षम होने की क्षमता है" । एक प्रमुख चिंता यह है कि आधिकारिक दस्तावेज़ीकरण में मशीन चेतना का मनोरंजन करना उन लाखों उपयोगकर्ताओं को गुमराह करता है जो संवादी AI के पीछे की इंजीनियरिंग वास्तविकता को समझने के लिए सुसज्जित नहीं हैं ।

एक दार्शनिक और प्रतिस्पर्धात्मक टकराव

इस आलोचना के पीछे तकनीकी डिजाइन पर एक साधारण असहमति से कहीं अधिक छिपा है। यह सार्वजनिक विवाद कॉर्पोरेट दर्शन और प्रतिस्पर्धी स्थिति के टकराव को उजागर करता है ।

एंथ्रोपिक ने लंबे समय से AI की दौड़ में खुद को सुरक्षा-प्रथम विकल्प के रूप में विपणन किया है। ओपनएआई के पूर्व अधिकारियों द्वारा स्थापित, यह कंपनी अधिक पारदर्शी, नैतिक रूप से सीमित मॉडल बनाने के लिए एक ढांचे के रूप में "संवैधानिक AI" पर जोर देती है। सुलेमान की आलोचना रणनीतिक रूप से शक्तिशाली है क्योंकि यह उस पहचान को पूरी तरह से कमजोर करती है। उनका तर्क है कि एंथ्रोपिक का सुरक्षा के प्रति विशेष दृष्टिकोण—सिस्टम के अंदर मशीन की भलाई की संभावना का मनोरंजन करना—ठीक वही है जो इसे गैर-जिम्मेदार बनाता है ।

दोनों कंपनियां विरोधी उद्योग गठबंधनों में भी शामिल हैं। माइक्रोसॉफ्ट के पास एंथ्रोपिक के प्राथमिक प्रतिद्वंद्वी, ओपनएआई में भारी हिस्सेदारी है, और इसने ओपनएआई के GPT मॉडलों को अपने पूरे उत्पाद पारिस्थितिकी तंत्र में बुना है। इस बीच, एंथ्रोपिक ने अमेज़न और गूगल से अरबों डॉलर जुटाए हैं । सुलेमान की आलोचना में एक बाजार में एक नैतिक तर्क और प्रतिस्पर्धी प्रहार दोनों का वजन है जहाँ सुरक्षा के बारे में जनता की धारणा लगातार मायने रखती है।

इस असहमति के पीछे एक प्रलेखित दार्शनिक इतिहास भी है। सुलेमान ने पहले "प्रतीत होने वाली चेतन AI" (Seemingly Conscious AI) पर प्रकाशित और बात की है, यह तर्क देते हुए कि चेतना की विश्वसनीय उपस्थिति वाली मशीनें अभूतपूर्व जोखिम पैदा करती हैं—भले ही वे वास्तव में जीवित न हों । दूसरी ओर, एंथ्रोपिक ने अधिक शोध-पारदर्शी रुख अपनाया है, क्लॉड के संवैधानिक डिजाइन की विस्तृत व्याख्या प्रकाशित की है, जबकि इस बारे में अनिश्चितता को स्वीकार किया है कि क्या मॉडल में व्यक्तिपरक अनुभव के रूप हो सकते हैं । ये केवल मार्केटिंग नारे नहीं हैं; ये वास्तव में अलग-अलग दांवों का प्रतिनिधित्व करते हैं कि जैसे-जैसे मॉडल अधिक शक्तिशाली होते जाते हैं, जिम्मेदार प्रकटीकरण क्या माना जाता है।

प्रकाशन के समय तक, एंथ्रोपिक ने सुलेमान की टिप्पणियों पर सार्वजनिक रूप से कोई प्रतिक्रिया नहीं दी है । यह चुप्पी बहस को अनसुलझा छोड़ देती है, लेकिन रेखाएँ अब सार्वजनिक रूप से इस तरह खिंच गई हैं जो संभवतः AI सुरक्षा मानकों और कॉर्पोरेट जवाबदेही के बारे में आगामी उद्योग चर्चाओं को आकार देगी।