작동 방식은 유튜브의 저작권 탐지 시스템 Content ID와 비슷하다. 다만 음악이나 영상 파일을 비교하는 대신 등록된 얼굴 데이터와 영상 속 얼굴의 시각적 유사성을 비교한다.
기본 흐름은 다음과 같다.
중요한 점은 탐지 즉시 자동 삭제가 이루어지는 것은 아니라는 것이다. 실제 삭제 여부는 사용자가 신고를 제출한 뒤 유튜브의 검토 절차를 거쳐 결정된다.
이 기능은 자동 적용이 아니라 사용자가 직접 신청해야 하는 ‘옵트인(opt‑in)’ 방식이다.
일반적인 등록 과정은 다음과 같다.
등록이 완료되면 유튜브 시스템이 주기적으로 영상을 검색하고 사용자의 얼굴과 유사한 장면이 발견되면 알림을 보내준다.
이 기능은 처음부터 모든 사용자에게 제공된 것은 아니다. 단계적으로 대상이 확대됐다.
다만 일부 보도에서는 “모든 성인 사용자”로 설명하는 반면, 다른 보도는 “성인 크리에이터 중심”으로 표현하기도 있어 계정 유형이나 지역에 따라 실제 적용 범위는 시기별로 다를 수 있다.
시스템이 얼굴 유사성을 발견하면 다음 과정이 진행된다.
유튜브는 삭제 요청을 검토할 때 다음 요소들을 고려할 수 있다.
확대된 기능이 딥페이크 문제를 완전히 해결하는 것은 아니다.
현재 시스템은 주로 얼굴 시각 정보를 기반으로 탐지한다. 즉, 목소리만 복제한 AI 음성 딥페이크는 자동 탐지 대상이 아닐 수 있다.
얼굴 데이터를 제출하지 않은 사람은 시스템이 자동으로 유사성을 추적하지 않는다.
탐지된 영상이라도 사용자가 신고를 해야 검토가 시작되며, 모든 영상이 반드시 삭제되는 것은 아니다.
패러디, 풍자, 해설 등 맥락이 있는 콘텐츠는 일부 경우 삭제 대상에서 제외될 수 있다.
최근 몇 년 사이 AI 영상 생성 기술이 빠르게 보급되면서 개인의 얼굴을 모방한 딥페이크 콘텐츠 위험도 커졌다.
유튜브가 얼굴 유사도 탐지 기능을 일반 성인 사용자까지 확대한 것은, 유명인뿐 아니라 일반 사용자도 자신의 얼굴과 정체성을 온라인에서 직접 보호할 수 있는 도구를 갖게 됐다는 의미가 있다.
다만 이 기능은 딥페이크를 자동으로 제거하는 시스템이 아니라 문제를 발견하고 대응할 수 있게 돕는 모니터링 도구에 가깝다는 점도 함께 이해할 필요가 있다.