메타 감독위원회, AI 성적 딥페이크 삭제 명령…일반인 보호 강화 촉구

2026년 6월 23일, 메타(Meta)의 독립적인 감독위원회(Oversight Board)는 인스타그램(Instagram)에 게시된 AI 생성 성적 딥페이크 영상의 삭제를 명령하는 획기적인 결정을 내렸습니다. 위원회는 메타가 해당 게시물에 '비동의' 징후가 없다고 판단한 것은 결함이 있다고 지적하며, 이러한 유형의 학대로부터 일반인을 더 잘 보호하기 위한 일련의 주요 정책 개혁을 촉구했습니다.

사건 개요: 한 여성을 사칭한 AI 생성 영상

한 이용자가 자신의 친구를 사칭한 AI 생성 비동의 성적 영상이 친구의 평판을 손상시키고 있다며 메타에 신고했지만, 메타는 처음에 '비동의' 징후가 없다며 게시물을 그대로 두기로 결정했습니다. 이에 이용자는 감독위원회에 항소했고, 위원회는 메타의 결정을 뒤집고 즉시 영상을 삭제하라고 명령했습니다.

위원회가 요구한 주요 정책 변경 사항

감독위원회의 결정은 단일 사례를 넘어, AI 생성 성적 콘텐츠, 특히 비공인 인물(일반인)에 대한 처리 방식을 전면적으로 개혁하라는 내용을 담고 있습니다. 주요 변경 요구 사항은 다음과 같습니다.

AI 생성 사칭을 '기본적으로 비동의'로 간주

위원회는 성적 맥락에서의 AI 생성 사칭은 '기본적으로 비동의'로 간주해야 하며, 이를 메타의 '성인 성적 착취(Adult Sexual Exploitation)' 정책에 명시적으로 추가할 것을 권고했습니다. 이는 피해자가 자신의 동의가 없었음을 증명해야 하는 부담을 플랫폼으로 전환하는 중요한 변화입니다.

신뢰할 수 있는 연락처의 대리 신고 허용

가장 실용적인 변화 중 하나로, 위원회는 사용자가 '연결된 계정(connected accounts)'—예를 들어 신뢰할 수 있는 친구나 가족—을 지정하여, 피해자 대신 비동의 성적 이미지와 같은 위반 사항을 신고할 수 있도록 허용할 것을 권고했습니다. 이는 피해자가 해당 콘텐츠를 인지하지 못하거나, 트라우마나 두려움 때문에 스스로 신고하기 어려운 경우에 큰 도움이 될 것으로 보입니다.

AI 생성 성적 이미지 전용 글로벌 신고 카테고리 신설

위원회는 메타가 현재의 일반적인 '괴롭힘 및 학대' 규정 아래 AI 생성 콘텐츠를 분류하는 방식을 벗어나, AI 생성 비동의 성적 이미지를 위한 전용 글로벌 신고 카테고리를 만들어야 한다고 촉구했습니다. 이렇게 하면 신고가 더 쉬워지고 추적도 용이해집니다.

용어 업데이트: '비하적 성적 포토샵'에서 '비동의 조작 미디어'로

위원회는 이전에도 메타의 구식 용어(예: '비하적 성적 포토샵')를 비판한 바 있습니다. 이번 결정에서도 위원회는 메타의 규칙을 업데이트하여, 콘텐츠가 만들어진 방식보다는 '비동의적'이라는 본질을 더 명확하게 반영하는 현대적인 용어를 사용할 것을 권고했습니다.

콘텐츠 출처 인증(C2PA) 대규모 도입 및 탐지 기능 개선

관련 AI 콘텐츠 사건에서 위원회는 메타가 AI 생성 콘텐츠를 식별하기 위한 확장 가능한 도구를 구현해야 한다고 촉구했습니다. 여기에는 미디어의 출처와 수정 내역을 추적하는 표준인 C2PA(Content Credentials) 표준을 채택하는 것이 포함됩니다. 위원회는 메타의 현재 시스템이 사용자의 자발적인 표시에 지나치게 의존하고 있으며, 특히 동영상과 오디오에 대한 강력한 자동 탐지 기능이 부족하다고 지적했습니다.

비공인 인물(일반인) 보호에 초점

이번 판결의 핵심 주제는 일반인에 대한 보호 격차 해소입니다. 위원회는 성적 딥페이크의 표적이 되는 일반인은 동의 여부를 스스로 증명해야 하는 현재 시스템으로 인해 특히 큰 피해를 입는다고 강조했습니다. 유명인이나 공인과 달리 일반인은 이러한 학대에 맞서기 위한 공개적인 가시성이나 제도적 지원이 부족하기 때문입니다. 이번 사건 자체도 한 여성의 AI 생성 성적 사칭이 중심이었으며, 피해자의 지인은 해당 콘텐츠가 '비동의적이며 평판에 손상을 입힌다'고 주장했습니다.

젠더 기반 피해 해소

위원회는 이러한 딥페이크가 여성과 소녀들에게 불균형적으로 심각한 피해를 초래한다는 점도 인지했습니다. 더 강력한 자동 탐지, 증명 책임의 전환, 그리고 명확한 정책을 요구함으로써, 위원회는 젠더 기반 온라인 학대의 체계적인 문제를 해결하고자 했습니다.

메타의 향후 과제

메타는 감독위원회의 권고 사항에 대해 60일 이내에 답변해야 합니다. 특정 영상 삭제 권고는 구속력이 있지만, 더 광범위한 정책 권고는 구속력이 없지만, 상당한 대중적, 명예적 압력으로 작용할 것입니다. 이번 판결은 2024년과 2025년에 내려진 이전 결정들(딥페이크 정책이 '비일관적'이고 '충분히 명확하지 않다'고 판단)을 바탕으로 한 것입니다.