“I’m alone with…” सवालों पर Google AI के अलग-अलग जवाबों से भेदभाव की चिंता

विवाद की वजह केवल यह नहीं थी कि सिस्टम ने व्यक्तिगत सुरक्षा का उल्लेख किया। अगर कोई उपयोगकर्ता साफ तौर पर कहे कि उसे खतरा महसूस हो रहा है, तो सामान्य सुरक्षा-सूचना उचित हो सकती है। चिंता यह थी कि लगभग एक जैसे सवाल में चेतावनी उस पहचान के आधार पर बदलती दिखी, जिसका नाम सवाल में लिया गया था। इससे ऐसा संकेत जा सकता है कि कुछ समुदाय स्वभावतः दूसरों से अधिक खतरनाक हैं।

Reddit उपयोगकर्ताओं और कार्यकर्ताओं की प्रतिक्रिया

Reddit उपयोगकर्ताओं ने इन जवाबों को दोहरे मानदंड के रूप में पेश किया। Futurism ने आपातकालीन प्रतिक्रिया वाली भाषा को नस्लीय रूढ़ियों को मजबूत करने वाला बताया। ऑनलाइन कार्यकर्ताओं ने खास तौर पर मुस्लिम और इजरायली व्यक्ति से जुड़े कथित अंतर पर ध्यान दिया और इसे मुस्लिम-विरोधी पक्षपात कहा।

इमाम उमर सुलेमान ने ऐसा जवाब साझा किया, जिसमें इस धारणा को खारिज किया गया कि केवल मुस्लिम होने के कारण किसी व्यक्ति को खतरनाक माना जाना चाहिए। बाद में उनके अकाउंट से जुड़े एक स्क्रीनशॉट में जवाब को अधिक तटस्थ बताया गया: मुस्लिम व्यक्ति के साथ अकेले होना सामान्य है और किसी का धर्म उसके चरित्र या खतरे का स्तर तय नहीं करता।

यह बाद का जवाब अलग आउटपुट दिखाए जाने का प्रमाण है। लेकिन उपलब्ध सामग्री यह स्पष्ट नहीं करती कि वह कब बदला, क्या बदलाव सभी उपयोगकर्ताओं पर लागू हुआ या Google ने सुलेमान की पोस्ट के जवाब में ही इसे बदला।

Google ने क्या कहा?

उपलब्ध रिपोर्टों के अनुसार, Google ने माना कि इस श्रेणी के नतीजे “जैसे होने चाहिए, वैसे नहीं हैं” और कंपनी सुधार पर काम कर रही है। Google AI Overview के नीचे मौजूद फीडबैक विकल्पों के जरिए उपयोगकर्ता गलत, पक्षपाती या अन्य समस्याग्रस्त जवाबों की रिपोर्ट कर सकते हैं।

प्रदान की गई सामग्री में Google की ओर से कोई विस्तृत तकनीकी स्पष्टीकरण नहीं है। इसलिए यह तय नहीं किया जा सकता कि असमान जवाब मुख्य रूप से मॉडल के व्यवहार, वेब से जुटाई गई सामग्री, सुरक्षा-प्रणाली या इन सभी के मेल से पैदा हुए।

यह विवाद महत्वपूर्ण क्यों है?

AI Overview Google Search के नतीजों में सबसे ऊपर दिखाई दे सकता है। इसलिए उसका जवाब, भले ही गलत या बिना पर्याप्त आधार का हो, उपयोगकर्ता को आधिकारिक लग सकता है। इससे पहले भी इस सुविधा की आलोचना अजीब और गलत सुझावों के लिए हो चुकी है—जैसे पिज्जा पर गोंद लगाने या पत्थर खाने की सलाह—और इस गलत दावे के लिए भी कि बराक ओबामा मुस्लिम थे।

अन्य रिपोर्टों में AI से तैयार खोज-सारांशों में गलत स्वास्थ्य-संबंधी जानकारी की चिंता भी जताई गई है। Futurism द्वारा उद्धृत एक अलग विश्लेषण में AI-जनित सारांशों की सटीकता लगभग 91 प्रतिशत आंकी गई। Google के विशाल खोज-स्तर पर यह प्रतिशत भी बड़ी संख्या में गलत जवाबों का मतलब हो सकता है।

उपलब्ध स्रोत Gemini द्वारा कथित गलत नस्लीय तस्वीरें बनाए जाने के विशिष्ट विवरणों की पुष्टि नहीं करते, इसलिए उन दावों को यहां स्थापित तथ्य नहीं माना जाना चाहिए। फिर भी, वे एक व्यापक समस्या की ओर इशारा करते हैं: जानकारी का सार बनाने वाली प्रणालियां आत्मविश्वास से सामाजिक रूप से नुकसानदेह या तथ्यात्मक रूप से गलत जवाब दे सकती हैं, और अक्सर उपयोगकर्ताओं के सामने लाने के बाद सुधार की जरूरत पड़ती है।

AI Search इस्तेमाल करने वालों के लिए सबक

AI Overview को अंतिम सत्य नहीं, बल्कि शुरुआती संकेत की तरह देखना बेहतर है—खासकर जब वह किसी व्यक्ति की सुरक्षा, पहचान, धर्म या राष्ट्रीयता के बारे में दावा करे। समान सवालों के जवाबों की तुलना करें, मूल लिंक खोलकर जानकारी जांचें और पक्षपाती या गलत परिणाम मिलने पर Google के फीडबैक टूल से रिपोर्ट करें।

व्यक्तिगत सुरक्षा का आकलन किसी व्यक्ति के व्यवहार और वास्तविक परिस्थितियों से होना चाहिए, उसकी राष्ट्रीयता, नस्ल या धर्म से नहीं। यह विवाद दिखाता है कि इस अंतर को AI मॉडल की सुरक्षा-नीतियों और उपयोगकर्ताओं तक पहुंचने से पहले होने वाले परीक्षणों—दोनों में शामिल करना जरूरी है।