क्या इंसान आपकी ChatGPT चैट पढ़ सकते हैं? ‘प्रोजेक्ट लिली’ रिपोर्ट से जुड़े अहम प्राइवेसी सवाल

404 Media की जांच में OpenAI की एक आंतरिक पहल, Project Lily, का विवरण सामने आया है। रिपोर्ट के मुताबिक, यह वास्तविक ChatGPT बातचीतों पर मानव फीडबैक लेने का संगठित कार्यक्रम था। प्राइवेसी का मुख्य सवाल केवल इतना नहीं है कि चैट्स मॉडल सुधार के काम आ सकती हैं; रिपोर्ट कहती है कि बाहरी कॉन्ट्रैक्टर ऐसी सामग्री पढ़ सकते थे जिसमें यूज़रनेम हटाया गया हो, लेकिन निजी संदर्भ फिर भी मौजूद रहे। 2

‘प्रोजेक्ट लिली’ में क्या किया जाता था?

404 Media द्वारा देखे गए लीक दस्तावेज़ों के अनुसार, OpenAI ने स्टाफिंग फर्मों के जरिए सैकड़ों कॉन्ट्रैक्टर भर्ती किए थे। वे वास्तविक यूज़र प्रॉम्प्ट और ChatGPT के जवाबों की समीक्षा करते थे। इस काम के लिए कथित तौर पर 50 डॉलर प्रति घंटे से अधिक भुगतान था। समीक्षक यूज़र की मंशा का सार लिखते, चार संभावित जवाबों की तुलना करते और उन्हें 1 से 7 के पैमाने पर अंक देते थे। 2

रिपोर्ट के अनुसार, उद्देश्य जवाबों की गुणवत्ता सुधारना था—खासकर ChatGPT की भाषा को कम रोबोट-जैसी बनाना, उसे जरूरत से ज्यादा इंसानी अनुभव या भावनाओं का दावा करने से रोकना और अत्यधिक सहमति या चापलूसी कम करना। AI विकास में मानव फीडबैक का इस्तेमाल नया नहीं है, लेकिन वास्तविक उपभोक्ता बातचीतों का उपयोग प्राइवेसी के सवाल को अधिक गंभीर बनाता है। 2

समीक्षक क्या देख सकते थे?

404 Media ने बताया कि समीक्षकों को पूरी बातचीत और कुछ मामलों में यूज़र मेमोरी सारांश भी मिल सकता था। रिपोर्ट के अनुसार यूज़रनेम नहीं दिखाया जाता था, फिर भी इस संदर्भ से अनुमानित स्थान, पेशा, पिछली रुचियां और निजी परिस्थितियां सामने आ सकती थीं। 2

यहीं नाम हटाने और व्यवहार में वास्तविक गुमनामी के बीच फर्क है। काम, परिवार, स्वास्थ्य या किसी असामान्य निजी घटना जैसे संदर्भों का मेल संवेदनशील हो सकता है, भले ही उससे सीधे अकाउंट धारक का नाम न पता चले।

OpenAI का Privacy Filter क्या करता है—और उसकी सीमा क्या है?

OpenAI का कहना है कि उसका Privacy Filter टेक्स्ट में व्यक्तिगत पहचान योग्य जानकारी (PII) पहचानने और हटाने के लिए बनाया गया मॉडल है। 4647

Project Lily पर रिपोर्टिंग में OpenAI ने कहा कि सामग्री कॉन्ट्रैक्टरों तक पहुंचने से पहले यूज़रनेम हटाए जाते हैं और स्वचालित फिल्टर लगाया जाता है। फिर भी 404 Media ने रिपोर्ट किया कि इन उपायों के बावजूद समीक्षा की गई बातचीतों में संवेदनशील विवरण रह सकते थे। 2

स्वचालित रेडैक्शन की यही व्यावहारिक सीमा है: नाम, ईमेल या फोन नंबर जैसे स्पष्ट पहचानकर्ता पकड़े जा सकते हैं, लेकिन संदर्भ से पहचान बनाने वाली जानकारी को विश्वसनीय तरीके से वर्गीकृत करना कहीं कठिन होता है।

समीक्षकों को किन बातों पर ध्यान देने को कहा गया था?

रिपोर्ट में बताए गए दिशानिर्देश केवल तथ्यात्मक शुद्धता तक सीमित नहीं थे। कॉन्ट्रैक्टरों से कथित तौर पर इन समस्याओं को पहचानने के लिए कहा गया था:

• घिसी-पिटी या अप्राकृतिक “AI-जैसी” भाषा
• मानव भावनाओं या निजी अनुभवों का दावा करने वाले जवाब
• जरूरत से ज्यादा सहमति, चापलूसी या खुशामदी व्यवहार
• तथ्यात्मक गलतियां
• निजी जानकारी का खुलासा
• सुरक्षा संबंधी चिंताएं 2

अत्यधिक सहमतिपूर्ण व्यवहार, जिसे अंग्रेज़ी में sycophancy कहा जाता है, अहम मुद्दा है। ऐसा मॉडल यूज़र को सहारा देता हुआ लग सकता है, लेकिन गलत, जोखिम भरी या हानिकारक धारणाओं पर सवाल उठाने में विफल रह सकता है। रिपोर्ट के मुताबिक Project Lily का एक उद्देश्य इस व्यवहार को भी बेहतर ढंग से नियंत्रित करना था। 2

“यह बात हमारे बीच रहे” लिखना प्राइवेसी सेटिंग नहीं है

प्रॉम्प्ट में गोपनीयता की मांग लिख देने से अकाउंट के डेटा कंट्रोल नहीं बदलते। यह चैट की सामग्री भर है; यह OpenAI की डेटा-उपयोग सेटिंग को तकनीकी रूप से ओवरराइड नहीं करता।

निजी ChatGPT वर्कस्पेस के लिए OpenAI का दस्तावेज़ित नियंत्रण Improve the model for everyone है। इसे चालू रखने पर चैट्स मॉडल सुधार के लिए इस्तेमाल हो सकती हैं। इसे बंद करने पर OpenAI कहता है कि वह नई बातचीतों पर मॉडल ट्रेन नहीं करेगा। 2130

नई ChatGPT बातचीतों को मॉडल सुधार के लिए इस्तेमाल होने से कैसे रोकें

साइन-इन किए हुए उपयोगकर्ताओं के लिए OpenAI के निर्देश हैं:

1. ChatGPT में अपना प्रोफाइल मेनू खोलें।
2. Settings चुनें।
3. Data Controls खोलें।
4. Improve the model for everyone को बंद कर दें। 1921

यह सेटिंग किसी एक फोन या कंप्यूटर की नहीं, पूरे अकाउंट की होती है। इसे बंद करने के बाद पुरानी चैट हिस्ट्री उपलब्ध रह सकती है, लेकिन OpenAI के अनुसार नई बातचीतों का इस्तेमाल मॉडल ट्रेनिंग में नहीं होगा। 1930

OpenAI के प्राइवेसी पोर्टल में Do not train on my content विकल्प भी है। कंपनी के अनुसार, ChatGPT और Codex कार्यों के लिए यह विकल्प या ऐप के भीतर मौजूद Data Controls में से कोई एक पर्याप्त है। 21

किन ChatGPT प्लान में डिफ़ॉल्ट सुरक्षा अलग है?

OpenAI के अनुसार, निजी वर्कस्पेस में Free, Plus और Pro प्लान पर मॉडल ट्रेनिंग के लिए डेटा शेयरिंग डिफ़ॉल्ट रूप से चालू रहती है, हालांकि उपयोगकर्ता इससे बाहर निकल सकते हैं। वहीं ChatGPT Business, Enterprise, Edu और API Platform के इनपुट व आउटपुट का इस्तेमाल मॉडल ट्रेनिंग के लिए डिफ़ॉल्ट रूप से नहीं किया जाता। 23

फिर भी इसका अर्थ यह नहीं कि हर व्यावसायिक बातचीत हर उद्देश्य के लिए स्वतः जोखिम-मुक्त है। संस्थाओं को गोपनीय जानकारी किसी भी AI टूल में डालने से पहले वर्कस्पेस सेटिंग्स, डेटा रिटेंशन, शेयरिंग कंट्रोल और अपनी आंतरिक नीतियों की समीक्षा करनी चाहिए।

व्यावहारिक निष्कर्ष

404 Media की रिपोर्ट के मुताबिक Project Lily यह याद दिलाता है कि उपभोक्ता AI चैट को स्वाभाविक रूप से गोपनीय माध्यम नहीं, बल्कि डेटा-उपयोग सेटिंग्स वाले एक सेवा उत्पाद की तरह समझना चाहिए। अगर प्रॉम्प्ट में अत्यंत संवेदनशील निजी, कानूनी, मेडिकल, वित्तीय या मालिकाना जानकारी है, तो नई बातचीत शुरू करने से पहले Improve the model for everyone बंद करना सबसे सुरक्षित तत्काल कदम है। 221

ऑप्ट-आउट OpenAI द्वारा नई बातचीतों के मॉडल सुधार में उपयोग को नियंत्रित करता है। यह प्रॉम्प्ट में लिखी कोई गोपनीयता मांग नहीं है, और OpenAI के दस्तावेज़ इसे पहले ही भेजी जा चुकी सामग्री वापस लेने का तरीका नहीं बताते। 2130