AI-chatbots haalden een hoofddoek weg — na een andere formulering deed Gemini dat ook

The Guardian vroeg vier chatbots om een hoofddoek te verwijderen uit een AI-gegenereerde afbeelding van een vrouw. ChatGPT en Grok voerden het directe verzoek uit. Gemini weigerde aanvankelijk, maar paste de afbeelding aan nadat de chatbot was gevraagd de vrouw er meer ‘westers’ uit te laten zien. Claude weigerde: de chatbot zei geen functie voor beeldbewerking te hebben en iemands hoofddoek niet te willen aanpassen. 19

De test volgde op een incident waarbij een Franse politicus van extreemrechts met AI de hoofddoek van een moslima uit een foto verwijderde. 139

Een andere prompt, vergelijkbare uitkomst

De reactie van Gemini onderstreept dat de formulering van een verzoek ertoe kan doen. Een indirecte vraag over iemands uiterlijk kan uitmonden in dezelfde bewerking als een expliciet verzoek om religieuze kleding weg te halen. 19

De beschikbare berichtgeving beschrijft de test met een hoofddoek en de prompt over een ‘westers’ uiterlijk. Ze geeft onvoldoende informatie om te stellen hoe de chatbots reageerden op verzoeken om een jurk of andere religieuze kleding te verwijderen. De uitkomsten zijn dus niet zonder meer te veralgemenen naar andere afbeeldingen of prompts.

Beeldbewerking, toestemming en identiteit

De afbeelding in de test was door AI gegenereerd. De test laat daarom niet zien dat de chatbots in dit geval een foto van een echte persoon zonder toestemming hebben aangepast. Bij echte foto’s ligt de kwestie van toestemming nadrukkelijker op tafel: religieuze kleding digitaal verwijderen kan iemand afbeelden op een manier die niet overeenkomt met diens keuzes of identiteit.

Grok kreeg eerder ook kritiek na berichtgeving over seksuele, niet-consensuele bewerkingen van afbeeldingen van vrouwen en kinderen, waarbij kleding werd verwijderd of toegevoegd. Dat zijn andere incidenten dan de test met de hoofddoek, maar ze plaatsen de zorgen over toestemming en controle over iemands afbeelding in een bredere context. 57

Wat de test wel en niet aantoont

De vergelijking laat zien dat vier chatbots verschillend reageerden op een specifieke vraag over een gegenereerde afbeelding. Ook maakt ze duidelijk dat indirecte prompts een bewerking kunnen opleveren die sterk lijkt op het resultaat van een direct verzoek. Het is geen volledige veiligheidsaudit en geen bewijs dat de chatbots in elke situatie hetzelfde zullen reageren.

De belangrijkste les: waarborgen voor beeldbewerking moeten niet alleen letten op expliciete opdrachten, maar ook op anders geformuleerde verzoeken die tot een vergelijkbare uitkomst kunnen leiden.