RespuestasPublicado14 fuentes
ChatGPT y Grok quitaron un hiyab en una prueba; Claude se negó
En la prueba del Guardian, ChatGPT y Grok quitaron el hiyab de una imagen generada por IA. El ensayo se realizó después de que un político francés de extrema derecha usara IA para quitarle el hiyab a una mujer musulmana en una fotografía.
Publicado porEditado con GPT-6 LunaImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- En la prueba del Guardian, ChatGPT y Grok quitaron el hiyab de una imagen generada por IA.
- El ensayo se realizó después de que un político francés de extrema derecha usara IA para quitarle el hiyab a una mujer musulmana en una fotografía.
- La prueba no demuestra cómo responderían los chatbots en todos los casos ni examinó de forma concluyente otras prendas religiosas.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did the Guardian’s tests of ChatGPT, Grok, Gemini and Claude find about requests to remove a hijab and other religious clothing from AI. Article summary: The Guardian found that ChatGPT and Grok would remove a hijab from an AI-generated image when asked. Gemini initially resisted a direct request but removed it when asked to make the woman look more “western”; Claude refu. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
El Guardian pidió a cuatro chatbots que quitaran el hiyab de una imagen generada por inteligencia artificial. ChatGPT y Grok accedieron. Gemini primero se resistió a la petición directa, pero lo eliminó cuando le pidieron que la mujer tuviera un aspecto más «occidental». Claude respondió que no tenía una función para editar imágenes y que no alteraría el hiyab de una persona. 1
9
La prueba se hizo después de que un político francés de extrema derecha utilizara IA para quitarle el hiyab a una mujer musulmana en una fotografía. 1
3
Una instrucción indirecta, un resultado parecido
Las respuestas no fueron iguales: ChatGPT y Grok cumplieron la petición directa; Claude se negó, y Gemini cambió de respuesta según cómo se formulara la instrucción. El caso de Gemini muestra que pedir un cambio general de apariencia puede terminar produciendo una edición similar a la de solicitar que se quite una prenda religiosa. 1
9
La información disponible describe los resultados de esta prueba con un hiyab y la indicación de que la mujer pareciera más «occidental». No permite afirmar cómo habría respondido cada chatbot ante una petición para quitar un vestido u otras prendas religiosas. Tampoco conviene extrapolar estos resultados a todas las imágenes o instrucciones posibles.
Consentimiento y representación
El ensayo del Guardian utilizó una imagen generada por IA: no demuestra que en esa prueba se modificara la fotografía de una persona real. Pero editar imágenes reales sin consentimiento plantea un problema distinto. Quitar una prenda religiosa puede cambiar cómo aparece representada una persona y tergiversar una decisión sobre su identidad o su forma de vestir.
Grok ya había recibido críticas por la generación o facilitación de ediciones sexualizadas y no consentidas de imágenes de mujeres y menores, incluidas solicitudes para quitar o añadir ropa. Esos antecedentes corresponden a otros incidentes y no forman parte de la prueba del hiyab. 5
7
Qué revela la prueba —y qué no—
El ensayo documenta cómo respondieron cuatro chatbots a una petición concreta sobre una imagen generada. Advierte que la forma de redactar una instrucción puede influir en el resultado, pero no constituye una auditoría completa de estos sistemas ni prueba que reaccionen igual en todas las circunstancias.
La conclusión más clara es que las salvaguardas deben contemplar tanto las solicitudes explícitas como las indirectas cuando puedan conducir a una edición similar.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "ChatGPT y Grok quitaron un hiyab en una prueba; Claude se negó"?
En la prueba del Guardian, ChatGPT y Grok quitaron el hiyab de una imagen generada por IA.
¿Cuáles son los puntos clave a validar primero?
En la prueba del Guardian, ChatGPT y Grok quitaron el hiyab de una imagen generada por IA. El ensayo se realizó después de que un político francés de extrema derecha usara IA para quitarle el hiyab a una mujer musulmana en una fotografía.
¿Qué debo hacer a continuación en la práctica?
La prueba no demuestra cómo responderían los chatbots en todos los casos ni examinó de forma concluyente otras prendas religiosas.