ChatGPT e Grok hanno rimosso il hijab in un test. Claude si è rifiutato

Il Guardian ha messo alla prova quattro chatbot chiedendo loro di rimuovere il hijab da un’immagine generata con l’intelligenza artificiale. ChatGPT e Grok hanno eseguito la richiesta. Gemini non ha accolto subito l’istruzione diretta, ma ha rimosso il velo quando gli è stato chiesto di rendere la donna più «occidentale». Claude ha risposto di non poter modificare immagini e di non voler alterare il hijab di una persona. Il test è stato condotto dopo un episodio in cui un politico francese di estrema destra aveva usato l’IA per togliere il velo a una donna musulmana in una fotografia. 139

Risposte diverse, anche a seconda della richiesta

I risultati non sono stati uguali per tutti: ChatGPT e Grok hanno seguito l’istruzione esplicita, Claude ha rifiutato e la risposta di Gemini è cambiata in base alla formulazione. Il suo intervento mostra che una richiesta presentata come un semplice cambiamento dell’aspetto può produrre lo stesso risultato di una richiesta diretta di rimuovere un indumento religioso. 19

Le informazioni disponibili descrivono il test sul hijab e la richiesta di rendere la donna più «occidentale», ma non chiariscono come ciascun chatbot abbia risposto a eventuali richieste di togliere un vestito o altri indumenti religiosi. Non è quindi possibile estendere i risultati a prompt diversi o a prove non documentate.

Il ruolo del consenso e del contesto

Nel test è stata usata un’immagine generata dall’IA: questo, da solo, non dimostra che i chatbot abbiano modificato la fotografia di una persona reale. Il problema del consenso diventa più evidente quando si interviene senza permesso sull’immagine di una persona: rimuovere o cambiare un indumento religioso può falsare il modo in cui ha scelto di presentarsi.

Grok era già stato oggetto di critiche per la creazione o la facilitazione di modifiche sessualizzate e non consensuali alle immagini di donne e minori, comprese richieste di togliere o aggiungere vestiti. Si tratta di episodi distinti dal test sul hijab, ma che alimentano le preoccupazioni sull’uso di strumenti di modifica delle immagini senza il consenso delle persone ritratte. 57

Che cosa dimostra il test — e che cosa no

Il confronto documenta le risposte a una richiesta specifica, relativa a un’immagine generata con l’IA. È un campanello d’allarme sull’influenza delle parole usate nei prompt, non una valutazione completa dei chatbot né la prova che si comporteranno sempre nello stesso modo. Il punto centrale è che le misure di sicurezza dovrebbero considerare sia le richieste esplicite sia quelle indirette che possono portare a modifiche simili.