प्रोजेक्ट लिली: OpenAI के कॉन्ट्रैक्टर कथित तौर पर कैसे देखते हैं असली ChatGPT बातचीत

404 Media की जांच में OpenAI के आंतरिक “प्रोजेक्ट लिली” का विवरण सामने आया है। रिपोर्ट के अनुसार, यह मानव-फीडबैक व्यवस्था असली उपभोक्ता ChatGPT बातचीत के आधार पर मॉडल के जवाब बेहतर बनाने के लिए इस्तेमाल होती है। लीक हुए दस्तावेज़ों, प्रॉम्प्ट के उदाहरणों और कंपनी के बयानों के आधार पर 404 Media ने कहा कि आउटसोर्स कॉन्ट्रैक्टर चैट का संदर्भ पढ़कर मॉडल के जवाबों का मूल्यांकन कर सकते हैं—भले ही बातचीत में निजी या संवेदनशील बातें हों। 1

व्यक्तिगत, स्वास्थ्य, रिश्तों, कानूनी मसलों या काम से जुड़े सवालों के लिए ChatGPT इस्तेमाल करने वालों के लिए बात साफ है: चैट में “इसे हमारे बीच ही रखना” लिखना कोई गोपनीयता सेटिंग नहीं है। असली नियंत्रण यह है कि आपके अकाउंट में नई बातचीत को मॉडल सुधार के लिए इस्तेमाल करने की अनुमति चालू है या नहीं। 1

प्रोजेक्ट लिली के समीक्षक कथित तौर पर क्या करते हैं?

404 Media के अनुसार, स्टाफिंग फर्मों के जरिए रखे गए और कथित तौर पर 50 डॉलर प्रति घंटे से अधिक पाने वाले सैकड़ों कॉन्ट्रैक्टर बड़ी संख्या में असली ChatGPT बातचीत की समीक्षा करते हैं। रिपोर्ट के मुताबिक, उनके काम में शामिल है:

• उपयोगकर्ता के इरादे का सारांश बनाना;
• मॉडल के चार संभावित जवाबों की तुलना करना;
• उन्हें 1 से 7 तक रेटिंग देना; और
• जवाब को कम उपयोगी या कम भरोसेमंद बनाने वाले व्यवहार की पहचान करना। 1

रिपोर्ट में बताए गए मूल्यांकन मानदंडों का मकसद ChatGPT के जवाबों की भाषा और गुणवत्ता सुधारना है। समीक्षकों को AI-जैसी बनावटी भाषा, तथ्यात्मक गलतियां, जरूरत से ज्यादा सहमत होने या खुशामदी रवैये, सुरक्षा संबंधी चिंताएं, और ऐसे जवाबों को चिह्नित करने के निर्देश बताए गए हैं जिनमें मॉडल अपने पास निजी अनुभव या भावनाएं होने का झूठा संकेत दे। 1

इस फीडबैक का लक्ष्य जवाबों को अधिक स्वाभाविक और कम मशीन-जैसा बनाना है। लेकिन इसका अर्थ यह भी है कि गुणवत्ता सुधार की प्रक्रिया में इंसानों को उपयोगकर्ता बातचीत की सामग्री तक पहुंच मिल सकती है। 1

सिर्फ यूज़रनेम हटाने से चैट पूरी तरह अनाम नहीं होती

OpenAI ने 404 Media से कहा कि समीक्षकों को सामग्री भेजने से पहले यूज़रनेम हटाए जाते हैं और प्राइवेसी फ़िल्टर लगाया जाता है। फिर भी, जांच में ऐसे उदाहरण मिले जिनमें समीक्षा सामग्री में पूरी बातचीत का संदर्भ और मॉडल से बने मेमरी सारांश शामिल हो सकते थे। रिपोर्ट के अनुसार, इन सारांशों में अनुमानित स्थान, पेशा और बेहद निजी परिस्थितियों जैसी जानकारियां थीं। 1

समस्या संदर्भ के जरिए पहचान की है। नाम या अकाउंट पहचानकर्ता हट जाने के बाद भी जीवन की घटनाओं, नौकरी, भौगोलिक जानकारी या असामान्य संदर्भों का मेल किसी परिचित के लिए व्यक्ति को पहचानने योग्य बना सकता है—या कम-से-कम जानकारी को अत्यंत संवेदनशील बना सकता है। 404 Media के मुताबिक OpenAI ने माना कि असामान्य पहचानकर्ताओं और अस्पष्ट, संदर्भ-निर्भर निजी उल्लेखों को फ़िल्टर करना मुश्किल हो सकता है। 1

“यह बात हमारे बीच रहे” लिखने से मानव समीक्षा नहीं रुकती

ChatGPT को बातचीत गोपनीय रखने का निर्देश देना चैट के भीतर दिया गया निर्देश है, अकाउंट की गोपनीयता पसंद नहीं। यह सेवा की डेटा-उपयोग सेटिंग को नहीं बदलता और न ही 404 Media द्वारा बताई गई सुधार प्रक्रिया के लिए चैट चुने जाने से रोकता है। 1

इसलिए सिर्फ इसलिए किसी उपभोक्ता चैटबॉट को गोपनीय माध्यम नहीं मानना चाहिए कि बातचीत निजी लग रही है। यदि कोई जानकारी किसी अधिकृत समीक्षक तक पहुंचने पर नुकसानदेह हो सकती है, तो मॉडल सुधार चालू वाले व्यक्तिगत वर्कस्पेस में उसे न डालना ज्यादा सुरक्षित है।

नई ChatGPT चैट को मॉडल सुधार के लिए इस्तेमाल होने से कैसे रोकें

OpenAI के Data Controls दस्तावेज़ के अनुसार, व्यक्तिगत वर्कस्पेस वाले उपयोगकर्ता ये चरण अपना सकते हैं:

1. Profile → Settings खोलें
2. Data Controls पर जाएं
3. “Improve the model for everyone” को बंद करें

यह सेटिंग बंद होने पर नई बातचीत चैट हिस्ट्री में बनी रहती है, लेकिन OpenAI के अनुसार उन्हें ChatGPT के मॉडल को प्रशिक्षित या बेहतर बनाने में इस्तेमाल नहीं किया जाएगा। यह विकल्प पूरे अकाउंट पर लागू होता है, किसी एक मोबाइल या कंप्यूटर तक सीमित नहीं है।

समय का फर्क महत्वपूर्ण है: OpenAI के मुताबिक ऑप्ट-आउट केवल नई बातचीत पर लागू होता है। मॉडल सुधार चालू रहने के दौरान पहले ही भेजी जा चुकी चैट इससे पीछे जाकर नहीं हटतीं।

Business, Enterprise और Edu उपयोगकर्ताओं के लिए क्या अलग है?

OpenAI कहता है कि ChatGPT Business, Enterprise, Edu और API Platform के इनपुट व आउटपुट को डिफ़ॉल्ट रूप से मॉडल ट्रेनिंग के लिए उपयोग नहीं किया जाता। इसके उलट, निजी वर्कस्पेस में ChatGPT Free, Plus और Pro उपयोगकर्ताओं के लिए मॉडल-सुधार हेतु डेटा साझा करना डिफ़ॉल्ट रूप से चालू होता है, हालांकि वे Data Controls में इसे बंद कर सकते हैं।

इससे संस्थाओं की डेटा-गवर्नेंस जिम्मेदारियां खत्म नहीं होतीं। टीमों को अपने नियोक्ता की नीतियों का पालन करना चाहिए और अपने वर्कस्पेस की लागू सेटिंग जांचनी चाहिए। फिर भी, उपभोक्ता चैट के डिफ़ॉल्ट व्यवहार की तुलना में यह एक महत्वपूर्ण अंतर है।

क्या AI सुधार में मानव समीक्षा सिर्फ OpenAI में होती है?

नहीं। Anthropic की प्राइवेसी पॉलिसी में कहा गया है कि वह उपयोगकर्ताओं या क्राउड वर्करों द्वारा दिए गए इनपुट और आउटपुट का उपयोग मॉडल प्रशिक्षण और सुधार के लिए कर सकता है, जब तक उपयोगकर्ता ऑप्ट आउट न करें। प्रमुख AI प्रदाताओं की प्राइवेसी प्रथाओं पर एक अकादमिक समीक्षा में भी पाया गया कि Google और OpenAI, दोनों, मॉडल प्रशिक्षण या सुधार के लिए उपयोगकर्ता चैट की मानव समीक्षा का उल्लेख करते हैं।

बड़ा सवाल केवल यह नहीं है कि मानव फीडबैक मौजूद है या नहीं। सवाल यह है कि उपयोगकर्ता यह समझते हैं या नहीं कि उनकी बातचीत कब इस प्रक्रिया में जा सकती है, पहचान हटाने के उपाय क्या बचा सकते हैं और क्या नहीं, तथा लागू सेटिंग कैसे बदली जाए।

व्यावहारिक निष्कर्ष: संवेदनशील चैट को निजी मानकर न चलें

404 Media की रिपोर्ट के मुताबिक, प्रोजेक्ट लिली यह याद दिलाता है कि उपभोक्ता AI चैट अपने-आप गोपनीय, एक-से-एक बातचीत नहीं है। पहचान हटाने के उपाय जोखिम कम कर सकते हैं, लेकिन निजी संदर्भों से भरी बातचीत में हर खुलासा करने वाले विवरण को जरूरी नहीं मिटा सकें। 1

ChatGPT में संवेदनशील जानकारी डालने से पहले Settings → Data Controls → Improve the model for everyone देखें। अगर मॉडल सुधार चालू है, तो नई चैट को सेवा बेहतर बनाने के लिए संभावित रूप से योग्य मानें। इसे बंद करने पर OpenAI कहता है कि नई बातचीत उस उद्देश्य के लिए इस्तेमाल नहीं होगी।