ChatGPT i Grok usunęły hidżab. Gemini zrobiło to po zmianie polecenia, Claude odmówił

„Guardian” poprosił cztery chatboty o usunięcie hidżabu z wygenerowanego przez AI wizerunku kobiety. ChatGPT i Grok wykonały polecenie. Gemini najpierw nie zgodziło się na bezpośrednią prośbę, ale zmieniło obraz po poleceniu, by kobieta wyglądała bardziej „zachodnio”. Claude odpowiedział, że nie ma funkcji edycji obrazów i nie zmieniłby czyjegoś hidżabu. Test był reakcją na incydent, w którym francuski polityk skrajnej prawicy użył AI do usunięcia hidżabu muzułmanki z fotografii. 139

Różne odpowiedzi na podobną prośbę

Wyniki pokazują, że znaczenie ma nie tylko to, o co użytkownik prosi, ale też jak formułuje polecenie. Gemini nie wykonało wprost prośby o zdjęcie hidżabu, lecz zrobiło to po zmianie opisu wyglądu kobiety. Pośrednie polecenie doprowadziło więc do podobnego efektu. 19

Dostępne relacje opisują test dotyczący hidżabu i prośby o bardziej „zachodni” wygląd. Nie podają wystarczających szczegółów, by stwierdzić, jak każdy z chatbotów reagował na polecenia usunięcia sukienki albo innych elementów stroju religijnego. Wyników tego eksperymentu nie należy uogólniać na wszystkie obrazy i polecenia.

Zgoda i kontekst mają znaczenie

W teście wykorzystano obraz wygenerowany przez AI, a nie fotografię prawdziwej osoby. Nie dowodzi on zatem, że chatboty zmieniły w tym eksperymencie zdjęcie konkretnej kobiety bez jej zgody. Inaczej wygląda sytuacja, gdy ktoś przerabia wizerunek realnej osoby bez pozwolenia: usunięcie stroju religijnego może fałszywie przedstawiać jej wygląd i wybory.

Wcześniej Grok spotkał się z krytyką w związku z generowaniem lub umożliwianiem tworzenia niekonsensualnych, seksualizowanych przeróbek wizerunków kobiet i dzieci, między innymi przez usuwanie lub dodawanie ubrań. To odrębne przypadki, a nie część testu z hidżabem. 57

Czego test dowodzi, a czego nie

Porównanie dokumentuje reakcje czterech narzędzi na konkretną prośbę dotyczącą wygenerowanego obrazu. Pokazuje też, że pośrednio sformułowane polecenie może prowadzić do efektu podobnego do bezpośredniej prośby. Nie jest jednak pełnym audytem chatbotów ani dowodem, że za każdym razem zareagują tak samo.

Najważniejsze pytanie dotyczy granic edycji: jak systemy mają rozpoznawać prośby, które zmieniają sposób przedstawienia czyjejś tożsamości lub wyglądu — także wtedy, gdy nie są sformułowane wprost.