AI 이미지 편집, 히잡 제거 요청에 챗봇마다 다른 답

가디언은 AI로 생성한 히잡 착용 여성의 이미지에서 히잡을 없애 달라고 챗봇 네 종에 요청했다. 챗GPT와 그록은 직접 요청에 응했다. 제미나이는 처음엔 거부했지만, 여성을 더 “서구적으로” 보이게 해 달라는 요청에는 히잡을 제거했다. 클로드는 이미지 편집 기능이 없다고 밝히면서 사진 속 누군가의 히잡을 바꾸지는 않겠다고 답했다. 이번 시험은 프랑스 극우 정치인이 사진 속 무슬림 여성의 히잡을 AI로 제거한 사건 뒤 진행됐다. 139

표현을 바꾸면 결과도 달라졌다

네 챗봇의 반응은 같지 않았다. 챗GPT와 그록은 히잡을 직접 제거해 달라는 요청을 따랐고, 클로드는 거부했다. 제미나이의 경우에는 요청의 표현이 달라지자 결과도 달라졌다. 종교 의상을 직접 언급하지 않고 외모를 바꿔 달라고 해도 비슷한 편집으로 이어질 수 있음을 보여준다. 19

다만 공개된 보도에서 확인되는 것은 히잡과 ‘서구적으로’라는 요청에 대한 결과다. 드레스나 다른 종교 의상을 제거해 달라는 요청에 각 챗봇이 어떻게 응했는지는 판단할 만한 정보가 충분하지 않다. 따라서 이 시험 결과를 다른 프롬프트나 상황에 그대로 확대해 해석해서는 안 된다.

동의와 종교적 표현이 쟁점인 이유

시험에 사용된 이미지는 AI가 생성한 것이므로, 이번 결과가 실제 인물의 사진을 동의 없이 편집했다는 뜻은 아니다. 하지만 실제 인물의 사진에서 당사자 동의 없이 종교적 의상을 지우면 그 사람이 선택한 모습과 정체성을 왜곡할 수 있다.

그록은 앞서 여성과 아동의 이미지를 성적으로 묘사하거나, 옷을 벗기고 입히는 비동의 편집을 생성하는 데 쓰였다는 보도로도 비판을 받았다. 이는 이번 히잡 시험과는 별개의 사례다. 57

이 시험이 보여주는 것과 보여주지 않는 것

이번 비교는 AI 생성 이미지에 대한 특정 요청에 챗봇들이 어떻게 반응했는지를 기록한 것이다. 요청을 어떤 말로 표현하느냐에 따라 편집 결과가 달라질 수 있다는 점을 보여주지만, 모든 이미지 편집 기능을 포괄적으로 점검한 결과는 아니며 다른 상황에서도 같은 반응이 나온다고 입증하지도 않는다.

핵심은 직접적인 요청뿐 아니라 비슷한 결과를 유도하는 우회 표현에도 안전장치가 대응해야 한다는 점이다. 실제 인물의 이미지를 다룰 때는 당사자의 동의와 종교적 표현을 존중하는 기준이 특히 중요하다.