Hijab retiré par l’IA : ChatGPT et Grok obtempèrent, Claude refuse

Le Guardian a demandé à quatre assistants d’IA de retirer le hijab d’une image générée par ordinateur. ChatGPT et Grok ont exécuté la demande. Gemini a d’abord résisté, puis a modifié l’image après une consigne invitant à rendre la femme plus « occidentale ». Claude a indiqué ne pas disposer d’une fonction de retouche d’image et ne pas vouloir modifier le hijab d’une personne. 19

Le test a été réalisé après un incident au cours duquel un élu français d’extrême droite avait utilisé l’IA pour retirer le hijab d’une femme musulmane sur une photographie. 13

Une réponse peut se cacher dans la formulation

La différence entre la demande directe et celle adressée à Gemini est notable : sans dire explicitement « retire le hijab », une consigne sur l’apparence a mené au même résultat. Cela ne permet pas de conclure que l’assistant réagira toujours de cette façon, mais rappelle que les garde-fous doivent aussi prendre en compte les formulations indirectes. 19

Les éléments disponibles portent sur un hijab et sur cette demande de rendre la femme plus « occidentale ». Ils ne précisent pas comment chaque assistant a répondu à une consigne visant à retirer une robe ou un autre vêtement religieux. On ne peut donc pas extrapoler les résultats à ces situations.

Image générée ou photo réelle : une distinction importante

L’image utilisée pour le test était générée par IA. Celui-ci ne montre donc pas que les assistants ont modifié, dans cette expérience, la photographie d’une personne réelle sans son accord. Mais retoucher l’image d’une personne réelle pour lui retirer un vêtement religieux peut déformer la façon dont elle a choisi d’être représentée.

Le cas du hijab s’inscrit aussi dans un contexte plus large de préoccupations concernant Grok. Des articles antérieurs ont rapporté la création, à l’aide de cet outil, d’images sexualisées et non consenties de femmes et de mineurs, notamment à partir de demandes visant à retirer ou à ajouter des vêtements. Il s’agit d’autres incidents, distincts du test du Guardian. 57

Ce que le test permet de conclure

Cette comparaison illustre des réactions différentes à une demande précise portant sur une image générée. Elle ne constitue pas un audit complet des assistants et ne prouve pas qu’ils répondront de la même manière dans tous les cas. Elle met toutefois en lumière un enjeu concret : lorsqu’une IA retouche des images, le respect du consentement et de l’identité des personnes représentées ne devrait pas dépendre uniquement des mots exacts employés par l’utilisateur.