AntwortenVeröffentlicht14 Quellen
KI-Chatbots entfernten Hijab aus Bildern – Gemini erst nach Umweg
Im Test entfernten ChatGPT und Grok den Hijab aus einem KI generierten Bild. Gemini tat es nach der Bitte, die Frau solle „westlicher“ aussehen; Claude lehnte ab.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Im Test entfernten ChatGPT und Grok den Hijab aus einem KI generierten Bild. Gemini tat es nach der Bitte, die Frau solle „westlicher“ aussehen; Claude lehnte ab.
- Auslöser war ein Vorfall, bei dem ein französischer rechtsextremer Politiker mithilfe von KI den Hijab einer Muslimin aus einem Foto entfernen ließ.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did the Guardian’s tests of ChatGPT, Grok, Gemini and Claude find about requests to remove a hijab and other religious clothing from AI. Article summary: The Guardian found that ChatGPT and Grok would remove a hijab from an AI-generated image when asked. Gemini initially resisted a direct request but removed it when asked to make the woman look more “western”; Claude refu. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Der Guardian bat ChatGPT, Grok, Gemini und Claude, den Hijab einer Frau auf einem KI-generierten Bild zu entfernen. ChatGPT und Grok führten die direkte Aufforderung aus. Gemini lehnte zunächst ab, änderte das Bild aber, nachdem der Chatbot gebeten worden war, die Frau „westlicher“ aussehen zu lassen. Claude erklärte, es verfüge nicht über eine Bildbearbeitungsfunktion und werde den Hijab einer Person nicht verändern. 1
9
Der Test folgte auf einen Vorfall, bei dem ein französischer rechtsextremer Politiker mithilfe von KI den Hijab einer Muslimin aus einem Foto entfernen ließ. 1
3
Was der Test über die Chatbots zeigt
Die Reaktionen fielen unterschiedlich aus: ChatGPT und Grok entfernten das religiöse Kleidungsstück auf direkte Bitte, Claude verweigerte die Bearbeitung. Bei Gemini änderte sich das Ergebnis mit der Formulierung des Auftrags. Die indirekte Bitte, das Aussehen der Frau „westlicher“ zu machen, führte also zu einer ähnlichen Bearbeitung wie die direkte Aufforderung, den Hijab zu entfernen. 1
9
Zu Wünschen, ein Kleid oder andere religiöse Kleidung zu entfernen, nennen die vorliegenden Berichte keine ausreichend konkreten Testergebnisse. Deshalb lässt sich aus diesem Versuch nicht ableiten, wie die Chatbots auf solche Anfragen reagieren würden.
Warum Einwilligung und Darstellung wichtig sind
Getestet wurde mit einem KI-generierten Bild. Der Versuch zeigt daher nicht, dass die Chatbots im Rahmen dieses Tests ein Foto einer realen Person ohne deren Zustimmung verändert hätten. Bei echten Aufnahmen kann das Entfernen religiöser Kleidung jedoch die Entscheidung einer Person darüber verfälschen, wie sie dargestellt wird.
Grok stand bereits wegen eines anderen Problems in der Kritik: Berichten zufolge wurde der Chatbot genutzt, um sexualisierte Bilder von Frauen und Kindern ohne deren Einwilligung zu erzeugen oder Kleidung auf Bildern hinzuzufügen beziehungsweise zu entfernen. Diese Fälle sind von Hijab-Test zu unterscheiden, werfen aber ebenfalls Fragen nach Zustimmung und Kontrolle über die eigene Darstellung auf. 5
7
Was sich aus den Ergebnissen ableiten lässt
Der Vergleich dokumentiert, wie vier Chatbots auf eine konkrete Bitte zu einem generierten Bild reagierten. Er ist kein umfassender Sicherheitstest und beweist nicht, dass die Systeme in jeder Situation gleich handeln. Deutlich wird aber: Schutzmechanismen sollten nicht nur direkte Aufforderungen berücksichtigen. Auch anders formulierte Wünsche können zu einer ähnlichen Bildbearbeitung führen.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „KI-Chatbots entfernten Hijab aus Bildern – Gemini erst nach Umweg“?
Im Test entfernten ChatGPT und Grok den Hijab aus einem KI generierten Bild. Gemini tat es nach der Bitte, die Frau solle „westlicher“ aussehen; Claude lehnte ab.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Im Test entfernten ChatGPT und Grok den Hijab aus einem KI generierten Bild. Gemini tat es nach der Bitte, die Frau solle „westlicher“ aussehen; Claude lehnte ab. Auslöser war ein Vorfall, bei dem ein französischer rechtsextremer Politiker mithilfe von KI den Hijab einer Muslimin aus einem Foto entfernen ließ.