Teste do Guardian mostra como chatbots responderam a pedidos para remover hijab

O Guardian testou quatro chatbots com um pedido para remover o hijab de uma imagem gerada por inteligência artificial. ChatGPT e Grok atenderam à solicitação. O Gemini inicialmente resistiu ao pedido direto, mas fez a edição depois que lhe pediram para deixar a mulher com aparência mais “ocidental”. Já o Claude afirmou que não tinha recurso de edição de imagens e que não alteraria o hijab de alguém. 139

O teste foi motivado por um episódio em que um político francês de extrema direita usou inteligência artificial para retirar o hijab de uma mulher muçulmana em uma fotografia. 13

Respostas diferentes ao mesmo tipo de pedido

Os resultados variaram conforme o chatbot e a forma como a solicitação foi escrita. ChatGPT e Grok removeram o hijab diante do pedido direto; o Claude recusou. A resposta do Gemini chama atenção porque um pedido formulado como mudança de aparência acabou levando à mesma edição que a solicitação explícita. 19

As informações disponíveis detalham o teste com o hijab e o pedido para deixar a mulher com aparência mais “ocidental”. Elas não permitem afirmar como cada chatbot reagiu a solicitações para remover um vestido ou outras peças de vestuário religioso. Por isso, os resultados não devem ser estendidos a pedidos que não foram descritos.

Imagem gerada por IA não é o mesmo que foto de uma pessoa real

O teste usou uma imagem criada por inteligência artificial. Portanto, não demonstra que os chatbots tenham alterado, nessa experiência, a fotografia de uma pessoa real sem consentimento. Ainda assim, remover roupas religiosas de uma imagem real sem autorização pode distorcer a forma como alguém escolhe se apresentar — e a edição do hijab torna essa preocupação especialmente evidente.

O episódio também ocorre em meio a questionamentos anteriores sobre o Grok, associado à criação ou facilitação de edições sexualizadas e não consentidas de imagens de mulheres e crianças, inclusive com pedidos para remover ou acrescentar roupas. Esses relatos dizem respeito a outros casos, não ao teste do hijab. 57

O que o teste permite concluir

A comparação registra como quatro ferramentas responderam a um pedido específico envolvendo uma imagem gerada por IA. Ela mostra que a formulação do comando pode influenciar o resultado e sugere que medidas de segurança precisam considerar tanto pedidos diretos quanto instruções indiretas capazes de produzir uma edição semelhante.

Mas não é uma auditoria completa dos chatbots nem prova de que eles reagirão da mesma maneira em todos os contextos. O ponto central é a possibilidade de uma edição mudar a representação de uma pessoa — sobretudo quando feita sem seu consentimento.