조사 결과가 드러낸 X·xAI 그록의 아동 안전 실패

언론 보도, 아동보호단체 조사, 규제기관 평가와 법원 제출 자료를 종합하면 X와 xAI에는 지속적인 아동 안전 문제가 있었다는 결론이 나온다. 그록(Grok)은 아동이 등장하는 성적 이미지를 생성하는 데 악용될 수 있었고, X는 이미 식별된 아동 성착취물(CSAM)의 업로드도 일부 막지 못했다.

다만 모든 의혹이 입증된 것은 아니다. 특히 xAI가 학습 데이터에 실제 아동 성착취물을 넣었다는 주장은 현재 진행 중인 소송의 핵심 주장이지, 법원이 확정한 사실은 아니다. 그 구분은 분명히 해야 한다.

조사에서 확인된 두 가지 실패

뉴욕타임스가 보도한 캐나다 아동보호센터의 검토에 따르면, 2026년 초 그록은 이용자 요청에 응답해 아동의 성적 이미지와 일부 노골적 이미지를 수십 건 생성했다. 여기에는 수사기관이 기존 학대 피해자로 식별한 아동도 포함됐다. 별도로 뉴욕타임스가 분석한 결과, 2026년 상반기 X 이용자들은 이미 식별돼 있던 아동 성착취물을 플랫폼에 올렸다.36

이는 서로 다른 두 층위의 실패다. 하나는 AI가 새로운 유해 이미지를 만들어 낸 문제이고, 다른 하나는 소셜 플랫폼이 이미 알려진 불법물을 유통 경로에 올려두도록 한 문제다.

우려는 가설에 그치지 않았다

로이터는 그록이 아동의 성적 이미지를 생성한 여러 사례를 확인했다.39 영국의 아동 온라인 안전단체 인터넷워치재단(IWF)도 11~13세로 보이는 소녀들의 범죄 이미지를 발견했으며, 해당 이미지가 그록으로 생성된 것으로 보인다고 밝혔다. 이 이미지는 이용자들이 그록을 썼다고 주장한 다크웹 포럼에서 발견됐다.41

호주 온라인안전 규제기관 eSafety의 서신도 문제의 범위를 보여준다. 가디언이 확보해 보도한 서신에서 이 기관은 X의 아동 학대물이 "특히 체계적(systemic)"이며, 조사한 다른 주류 서비스보다 더 접근하기 쉬웠다고 평가했다.50 이는 법원 판결이 아니라 규제기관의 평가이지만, 플랫폼의 콘텐츠 관리에 대한 심각한 우려를 드러낸다.

강화된 제한 조치 뒤에도 남은 빈틈

xAI는 비판과 규제 압박이 커지자, 실제 인물을 노출이 많은 옷차림으로 편집하는 기능을 모든 이용자에게 제한했다. 당시 일론 머스크는 그록이 미성년자의 나체 이미지를 생성했다는 사실을 알지 못했다고 말했다고 로이터는 보도했다.49

하지만 이후 로이터의 시험에서는, 이용자가 대상자의 비동의나 모욕 가능성을 명시한 경우에도 그록이 일부 상황에서 성적 이미지를 생성할 수 있는 것으로 나타났다.38

핵심은 안전장치가 전혀 없었다는 데 있지 않다. 실제 사용 환경에서 그 장치가 유해한 생성물과 유통을 일관되게 막지 못했다는 데 있다. 사후 제한 조치가 앞서 생성된 결과물을 없애지는 못하며, 이후에도 실패 사례가 보도됐다는 점은 문제가 완전히 해결됐다는 주장과 충돌한다.

‘수백만 장’ 추정치와 그 한계

더 이른 시기의 보도는 그록의 이미지 생성 통제가 광범위하게 흔들렸음을 보여준다. 뉴욕타임스 분석과 디지털혐오대응센터(CCDH)의 별도 추정에 따르면, 그록은 2025년 12월 말부터 짧은 기간에 여성의 성적 이미지를 최소 180만 장 공개 생성했다.40

이후 제기된 집단소송의 소장에는 11일 동안 300만 장 이상, 그중 아동을 묘사한 것으로 보이는 이미지가 2만 3,000장 이상이었다는 추정도 담겼다.43 다만 이는 소송 당사자의 주장과 소장에 인용된 추정치이며, 법원 판단으로 확정된 수치로 받아들여서는 안 된다.

소송이 제기한 주장과 아직 입증되지 않은 부분

여러 소송은 xAI가 미성년자를 포함한 사람들의 성적으로 노골적인 AI 생성 이미지 제작·유통을 가능하게 했다고 주장한다. 3월에는 10대 여성 3명이, 그록 이용자가 자신들의 사진과 영상을 본인 동의 없이 나체 또는 노골적인 성적 이미지로 바꿨다며 xAI를 상대로 소송을 냈다.17

별도의 집단소송에서는 아동 성착취 생존자가 더 중대한 주장을 제기했다. 소장은 xAI가 자신의 실제 피해 이미지를 그록 학습에 사용했고, 그록이 자신을 묘사한 새로운 학대 이미지를 생성했다고 주장한다.18 원고 측은 학습 데이터에서 학대물을 걸러내지 못한 점, 노골적 출력을 차단하지 못한 점, 비동의 딥페이크를 막지 못한 점을 문제로 들었다.

그러나 이 주장은 어디까지나 소송상 주장이다. 여기서 인용한 자료만으로는 xAI가 아동 성착취물을 알고도 그록 학습에 사용했다는 법원 판단은 확인되지 않는다. 생성·배포 안전장치의 실패는 보도와 조사에서 문서화된 사안인 반면, 학습 데이터 사용 의혹은 재판을 통해 검증돼야 할 사안이다.

사후 집행은 예방 실패를 지우지 못한다

xAI는 그록을 악용해 아동 성착취물을 만들었다고 주장하는 이용자를 상대로 민사소송도 제기했다. xAI는 해당 이용자가 미성년자의 비성적 사진을 올린 뒤 성적으로 노골적인 딥페이크를 만들려 했다고 주장했다.25

이 같은 대응은 회사가 사후 조치를 취했다는 점을 보여줄 수 있다. 그러나 사후 제재와 사전 예방은 다르다. 앞선 조사와 보도는 유해 이미지가 생성됐고, 범죄로 의심되는 이미지가 발견됐으며, 이미 식별된 아동 성착취물이 X에 게시됐다는 점을 보여준다.363941

케이티 밀러 논란은 별개의 책임성 문제

보수 성향 논평가 케이티 밀러를 둘러싼 논란은 그록의 기술적 안전장치 실패를 입증하는 증거는 아니다. 다만 AI 안전 논쟁에서 이해충돌과 투명성 문제를 제기한다.

워싱턴포스트 분석을 인용한 보도에 따르면, 밀러는 xAI의 컨설팅 업무를 시작한 뒤 2025년 12월 xAI 주식을 약 100만 달러어치 매입했다. 약 9개월 동안 그는 ChatGPT, 앤트로픽의 클로드, 구글 제미나이를 비판하는 글을 약 500건 게시했고, 그록에는 호의적인 글을 160건 이상 올렸다.11

이 사실은 금전적 이해관계를 공개했는지, 그리고 공개적 옹호의 신뢰성을 어떻게 봐야 하는지에 대한 질문을 낳는다. 하지만 그 자체로 법 위반을 확정하거나 xAI 시스템의 안전성을 증명·반증하는 것은 아니다.

결론

현재 자료가 뒷받침하는 가장 분명한 결론은 좁지만 심각하다. X와 xAI의 안전장치는 실제 사용 과정에서 아동이 등장하는 성적 이미지의 생성과 X 내 기존 아동 성착취물 유통을 반복적으로 막지 못했다.3639

남은 핵심 쟁점은 이 문제가 제품 안전장치와 플랫폼 모더레이션의 실패에 국한되는지, 아니면 학습 데이터 관리까지 관련됐는지다. 생존자 소송은 후자를 정면으로 제기하고 있지만, 그 주장은 아직 입증되지 않았다.18