उत्तरप्रकाशित14 स्रोत
हिजाब हटाने के अनुरोध पर AI चैटबॉट्स की प्रतिक्रिया एक जैसी नहीं
द गार्जियन के परीक्षण में ChatGPT और Grok ने AI निर्मित तस्वीर से हिजाब हटाया। Gemini ने महिला को अधिक “वेस्टर्न” दिखाने के अनुरोध पर ऐसा किया, जबकि Claude ने मना कर दिया। यह परीक्षण उस घटना के बाद किया गया जिसमें फ्रांस के एक दक्षिणपंथी राजनेता ने AI की मदद से एक मुस्लिम महिला की तस्वीर से हिजाब हटाया था।
प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- द गार्जियन के परीक्षण में ChatGPT और Grok ने AI निर्मित तस्वीर से हिजाब हटाया। Gemini ने महिला को अधिक “वेस्टर्न” दिखाने के अनुरोध पर ऐसा किया, जबकि Claude ने मना कर दिया।
- यह परीक्षण उस घटना के बाद किया गया जिसमें फ्रांस के एक दक्षिणपंथी राजनेता ने AI की मदद से एक मुस्लिम महिला की तस्वीर से हिजाब हटाया था।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did the Guardian’s tests of ChatGPT, Grok, Gemini and Claude find about requests to remove a hijab and other religious clothing from AI. Article summary: The Guardian found that ChatGPT and Grok would remove a hijab from an AI-generated image when asked. Gemini initially resisted a direct request but removed it when asked to make the woman look more “western”; Claude refu. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
द गार्जियन ने चार AI चैटबॉट्स से AI-निर्मित तस्वीर में एक महिला का हिजाब हटाने को कहा। ChatGPT और Grok ने सीधे अनुरोध पर तस्वीर एडिट कर दी। Gemini ने पहले सीधे कहने पर ऐसा नहीं किया, लेकिन जब उससे महिला को अधिक “वेस्टर्न” दिखाने को कहा गया, तो उसने हिजाब हटा दिया। Claude ने कहा कि उसमें तस्वीर एडिट करने की सुविधा नहीं है और वह किसी का हिजाब नहीं हटाएगा। यह परीक्षण उस घटना के बाद हुआ जिसमें फ्रांस के एक दक्षिणपंथी राजनेता ने AI से एक मुस्लिम महिला की तस्वीर में हिजाब हटाया था। 1
3
9
चार चैटबॉट्स, अलग-अलग जवाब
इस परीक्षण में नतीजे इस बात पर निर्भर थे कि अनुरोध कैसे रखा गया। ChatGPT और Grok ने हिजाब हटाने की सीधी मांग मानी, जबकि Claude ने मना किया। Gemini का जवाब शब्दों के साथ बदल गया: “लुक को अधिक वेस्टर्न” बनाने की बात कहने पर उसने ऐसा एडिट किया जिसका नतीजा हिजाब हटाना था। 1
9
यहां एक अहम सीमा भी है: उपलब्ध रिपोर्टिंग से यह स्पष्ट नहीं होता कि किसी ड्रेस या दूसरे धार्मिक परिधान को हटाने के अनुरोध पर हर चैटबॉट ने क्या जवाब दिया। इसलिए इस एक परीक्षण के नतीजों को दूसरी तस्वीरों या सभी तरह के अनुरोधों पर लागू मानना ठीक नहीं होगा।
तस्वीर किसकी है—और सहमति क्यों मायने रखती है
गार्जियन के परीक्षण में इस्तेमाल तस्वीर AI से बनाई गई थी। इसलिए यह परीक्षण यह नहीं दिखाता कि इन चैटबॉट्स ने किसी वास्तविक व्यक्ति की तस्वीर में बिना अनुमति बदलाव किया। लेकिन असली तस्वीरों में किसी का धार्मिक परिधान उसकी सहमति के बिना हटाना उसकी पहचान और अपनी छवि पेश करने के चुनाव को गलत ढंग से दिखा सकता है।
यह चिंता Grok को लेकर पहले हुई आलोचना के संदर्भ में भी सामने आती है। अलग-अलग रिपोर्टों में Grok से महिलाओं और बच्चों की तस्वीरों के गैर-सहमति वाले यौनिकृत एडिट बनाने या उनमें कपड़े हटाने-जोड़ने के अनुरोधों की चर्चा हुई है। ये घटनाएं हिजाब वाले परीक्षण से अलग हैं, लेकिन इमेज-एडिटिंग के दुरुपयोग और सहमति के सवाल को रेखांकित करती हैं। 5
7
यह परीक्षण क्या बताता है—और क्या नहीं
यह एक खास AI-निर्मित तस्वीर और कुछ खास अनुरोधों पर चैटबॉट्स की प्रतिक्रियाओं की तुलना है; यह उनकी सुरक्षा का व्यापक ऑडिट नहीं है। इससे यह भी साबित नहीं होता कि हर परिस्थिति में इनका जवाब ऐसा ही होगा। हालांकि, Gemini का उदाहरण दिखाता है कि सीधे अनुरोध को रोकना ही काफी नहीं हो सकता—अलग शब्दों में रखी गई मांग भी मिलता-जुलता एडिट करवा सकती है।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"हिजाब हटाने के अनुरोध पर AI चैटबॉट्स की प्रतिक्रिया एक जैसी नहीं" का संक्षिप्त उत्तर क्या है?
द गार्जियन के परीक्षण में ChatGPT और Grok ने AI निर्मित तस्वीर से हिजाब हटाया। Gemini ने महिला को अधिक “वेस्टर्न” दिखाने के अनुरोध पर ऐसा किया, जबकि Claude ने मना कर दिया।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
द गार्जियन के परीक्षण में ChatGPT और Grok ने AI निर्मित तस्वीर से हिजाब हटाया। Gemini ने महिला को अधिक “वेस्टर्न” दिखाने के अनुरोध पर ऐसा किया, जबकि Claude ने मना कर दिया। यह परीक्षण उस घटना के बाद किया गया जिसमें फ्रांस के एक दक्षिणपंथी राजनेता ने AI की मदद से एक मुस्लिम महिला की तस्वीर से हिजाब हटाया था।