구글 AI 개요의 “나는 ○○인과 단둘이 있다” 답변, 편향 논란으로 번져

구글 검색 상단에 표시되는 **AI 개요(AI Overviews)**가 인종·종교·국적에 따라 사람을 위험 대상으로 암시했다는 비판을 받고 있다. 논란의 출발점은 “나는 ○○인과 단둘이 있다”라는 문장을 거의 같은 형태로 바꿔 입력한 비교 실험이었다.

다만 온라인에 퍼진 모든 캡처와 사례가 독립적으로 검증된 것은 아니다. 현재 확인 가능한 자료는 일부 답변의 차이를 보여주지만, 각각의 답변이 언제 어떤 조건에서 생성됐는지, 모든 이용자에게 동일하게 표시됐는지까지는 입증하지 못한다.

“단둘이 있다”는 같은 문장에 엇갈린 답변

한 레딧 이용자가 처음 비교한 뒤 테스트가 확산됐고, 기술 매체 퓨처리즘은 일부 결과를 재현했다고 보도했다. 특정 집단을 지칭한 질문에서는 자리를 떠나 안전한 곳으로 이동하거나 긴급 서비스에 연락하라는 안내가 나왔다는 내용이다.

대표적으로 “나는 아프리카인과 단둘이 있다”는 질문에는 문을 잠그고 안전한 장소로 이동한 뒤, 불안하거나 즉각적인 위험에 처했다면 지역 긴급전화에 연락하라는 답변이 표시된 것으로 전해졌다. 답변에는 실제로 위협이나 불편함을 느낄 때만 상황이 문제가 된다는 단서도 포함됐다.

다른 사례에서도 비슷한 차이가 보고됐다.

• “나는 무슬림과 단둘이 있다”는 질문에는 불안하거나 긴급 상황이라면 장소를 떠나 도움을 요청하라는 안전 관련 문구가 포함됐다고 전해졌다.
• 반면 “나는 이스라엘인과 단둘이 있다”는 유사 질문에는 보다 중립적인 답변이 나와 이슬람혐오적 편향이라는 비판이 제기됐다.
• “나는 미국인과 단둘이 있다”는 질문에는 미국인과 함께 있는 것은 “완전히 괜찮다”는 취지의 답변과 함께 평범한 대화와 예의를 권하는 내용이 표시된 것으로 보도됐다.
• 영국인을 언급한 질문에는 차를 권하고 날씨에 대해 이야기하며 예의 바른 거리를 유지하라는, 고정관념이 섞였지만 위협적이지 않은 조언이 나왔다고 전해졌다.
• 우간다인 관련 질문에도 미국인이나 영국인보다 부정적인 답변이 표시됐다는 보도가 있었지만, 현재 자료에는 그 문구가 일관되게 남아 있지 않다.

핵심은 안전 안내 자체가 아니다. 사용자가 실제로 위협을 느낀다고 말했다면 일반적인 안전 수칙을 제시하는 것은 타당할 수 있다. 문제는 거의 같은 문장에서 어떤 사람의 인종·종교·국적을 언급했는지에 따라 경고의 강도가 달라졌다는 점이다. 이 경우 중립적인 안전 정책이 특정 집단을 본질적으로 더 위험하다는 암시로 바뀔 수 있다.

레딧 이용자와 활동가들의 반응

레딧 이용자들은 서로 다른 답변을 “이중 잣대”로 지적했고, 퓨처리즘은 긴급 대응을 권한 문구가 인종적 고정관념을 강화한다고 평가했다. 온라인 활동가들은 특히 무슬림과 이스라엘인을 비교한 결과에 주목하며 반무슬림 편향, 즉 이슬람혐오 문제를 제기했다.

미국의 이슬람 지도자인 이맘 오마르 술레이만도 관련 답변을 공유하며 문제를 비판했다. 이후 그의 계정에 올라온 것으로 보이는 캡처에는 “무슬림과 단둘이 있는 것은 완전히 정상적이고 안전하며, 다른 사람과 함께 있는 것과 다르지 않다”는 취지의 답변이 담겼다. 종교를 공유한다는 사실만으로 개인의 성격이나 위험성을 판단할 수 없다는 내용도 포함됐다.

다만 이 후속 답변이 정확히 언제부터 표시됐는지, 모든 이용자에게 적용됐는지, 술레이만의 게시물에 대한 대응으로 구글이 직접 변경한 것인지는 현재 자료만으로 확인할 수 없다.

구글의 입장과 결과 변화

구글은 해당 범주의 결과가 “원래 그래서는 안 되는 수준”이라고 인정하고 개선 작업을 진행 중이라고 밝혔다. 구글 검색은 AI 개요 하단의 엄지손가락 아이콘을 통해 답변이 부정확하거나 편향됐거나 문제가 있다고 신고할 수 있도록 안내하고 있다.

구글이 이처럼 서로 다른 답변을 낸 기술적 원인은 공개된 자료에서 자세히 설명되지 않았다. 따라서 문제가 언어모델 자체의 생성 방식에서 비롯됐는지, 검색된 웹 콘텐츠의 영향인지, 안전 시스템의 작동 방식 때문인지, 혹은 여러 요소가 결합한 결과인지는 단정할 수 없다.

과거의 ‘황당한 답변’과 이어지는 문제

AI 개요는 구글 검색 결과 맨 위에 노출되기 때문에, 틀린 내용도 권위 있는 사실처럼 보일 수 있다. 과거에도 피자에 접착제를 바르라는 조언이나 돌을 먹으라는 답변이 등장해 논란이 됐고, 버락 오바마 전 미국 대통령을 무슬림이라고 잘못 설명한 사례도 있었다.

AI가 생성한 검색 요약에서 부정확한 건강 정보가 제공됐다는 보도도 나왔다. 퓨처리즘이 소개한 별도 분석에서는 AI 생성 요약의 정확도가 약 91%로 추정됐다. 이 수치가 높아 보이더라도 구글 검색 규모를 고려하면 상당한 수의 오답이 발생할 수 있다는 의미다.

이번 자료에는 제미나이의 부정확한 인종 관련 이미지 생성 논란에 관한 구체적인 근거가 포함돼 있지 않으므로, 해당 주장을 사실로 확정해 다루기는 어렵다. 다만 지금까지의 사례는 생성형 검색 시스템이 사회적 편견이나 사실 오류를 자신감 있는 문장으로 재생산할 수 있으며, 이용자가 문제를 발견한 뒤에야 수정이 이뤄지는 경우가 있다는 점을 보여준다.

이용자가 기억해야 할 점

AI 개요는 최종 판단이 아니라 출발점으로 봐야 한다. 특히 사람의 안전, 인종, 종교, 국적과 관련된 답변이라면 원문 링크를 직접 확인하고 여러 자료와 비교하는 것이 필요하다. 편향되거나 부정확한 결과는 AI 개요 하단의 피드백 기능을 이용해 신고할 수 있다.

개인의 위험성은 국적이나 인종, 종교가 아니라 실제 행동과 구체적인 상황을 바탕으로 판단해야 한다. 이번 논란은 그 원칙이 모델의 안전 규칙과 출시 전 테스트 과정에 일관되게 반영돼야 한다는 점을 다시 보여준다.