AI 딥페이크 앱, 홍콩 아동 대상 이미지 기반 학대를 부추기는 7가지 주요 위험

AI 기반 딥페이크 앱은 홍콩에서 아동을 대상으로 한 이미지 기반 학대에 심각한 위험을 초래하고 있습니다. 또래 친구가 몇 분 만에 동의 없는 성적 이미지를 생성하는 일부터, 피해자가 법적 구제를 받지 못하게 하는 법적 공백까지 문제는 다양합니다. 다음은 홍콩 개인정보보호위원회(PCPD), 아동 보호 전문가 및 최근 사례를 통해 확인된 주요 위험입니다.

1. 몇 분 만에 성적 허위 이미지 생성

미국 신원 도용 방지 업체 홈 시큐리티 히어로즈(Home Security Heroes)에 따르면, 딥페이크 앱 3개 중 1개 이상이 음란물을 생성할 수 있습니다 . 딥페이크 앱은 소셜미디어에서 긁어온 사진을 사용해 몇 분 만에 아동의 성적 허위 이미지를 만들어냅니다 . 문제의 규모는 엄청납니다. 한 AI 챗봇은 사용자가 여성과 아동의 실제 사진을 업로드해 디지털 방식으로 '옷을 벗기는' 기능을 제공했으며, 단 11일 만에 약 300만 장의 성적 이미지를 생성한 것으로 알려졌습니다 .

2. 동료에 의한 학대 및 학교 내 사건

홍콩에서는 홍콩대학교(HKU) 로스쿨 남학생이 무료 AI 소프트웨어를 사용해 자신의 대학 및 초등학교 동창, 중학교 교사를 포함한 20~30명의 여성에 대한 약 700장의 비동의 포르노 이미지를 생성한 혐의를 받고 있습니다 . PCPD는 아동과 청소년이 피해의 심각성을 제대로 인지하지 못한 채 악의적인 딥페이크를 만들고 공유할 수 있다고 경고합니다 . 이는 홍콩에 국한된 문제가 아닙니다. 다른 지역의 학교들도 학생들의 노골적인 AI 딥페이크를 이용한 협박을 당한 사례가 보고되었습니다 .

3. 아동 피해자의 심각한 정신적 피해

AI 생성 이미지 기반 성적 학대 피해자들은 일반적으로 굴욕감, 수치심, 분노, 침해감 및 자책감을 경험하며, 이는 지속적인 정서적 고통, 학교 및 가족과의 단절, 신뢰 관계 유지의 어려움으로 이어집니다 . 일부 사례는 자해와 자살 충동으로 이어질 수 있습니다. 콘텐츠가 공유될 때마다 트라우마는 증폭됩니다 . 아동은 인지 능력이 아직 발달 중이고 딥페이크 식별이 더 어렵기 때문에 특히 취약합니다 .

4. AI 생성 아동 성적 학대 콘텐츠(CSAM)의 급속한 확산

2025년, 인터넷워치재단(IWF)은 8,029개의 AI 생성 이미지 및 영상이 실제 아동 성적 학대를 묘사하는 것으로 평가했으며, 다크웹과 일반 상업 플랫폼 모두에서 그 양이 꾸준히 증가하고 있습니다 . 이 이미지들은 대규모로 생성 및 유포되어 기존 모니터링 시스템을 압도하고 있습니다.

5. 홍콩의 법적 공백: 유포 없이 생성만으로는 처벌 불가

현행 홍콩 법률에 따르면, AI로 생성된 친밀한 이미지를 유포하지 않고 단순히 생성하는 것만으로는 범죄가 성립하지 않습니다. 유포 또는 유포 위협만이 처벌 대상입니다 . 홍콩대학교 딥페이크 사건의 피해자들은 법률 자문을 통해 이 공백을 확인했으며, 이미지를 생성한 학생에 대한 형사적 구제 수단이 없다는 사실을 알게 되었습니다 . 홍콩 보안국(Security Bureau)은 딥페이크 포르노그래피를 포함하도록 성범죄 법률을 확대하기 위한 공청회를 시작할 것이라고 발표했으며, 2026년까지 법 개정을 목표로 하고 있습니다 . 홍콩 변호사 협회(Bar Association)는 이 문제를 해결하기 위한 '맞춤형 법률'을 촉구했습니다 . 그러나 2026년 중반 현재, 법은 아직 개정되지 않았습니다.

6. 학부모와 아동의 낮은 인식

PCPD는 홍콩의 학부모와 아동이 딥페이크 위험에 대한 인식이 전반적으로 부족하며, 아동과 관련된 악성 딥페이크 사례가 빠르게 증가하고 있다고 밝혔습니다 . '셰어렌팅(Sharenting)' — 부모가 자녀의 사진을 온라인에 과도하게 공유하는 행위 — 은 딥페이크 제작에 쉽게 악용될 수 있는 원자재를 제공합니다 . PCPD는 2025년 12월 인식을 높이고 실질적인 지침을 제공하기 위해 'AI 딥페이크 악용: 학교 및 학부모를 위한 도구 키트'를 발간했습니다 .

7. 온라인에 한번 유포되면 사실상 삭제 불가능

허위 친밀 이미지는 한번 유포되면 인터넷에서 제거하기가 극도로 어려워 피해자에게 지속적인 피해를 입힙니다 . 이러한 영구성은 심리적 손상을 가중시켜, 피해자는 그 이미지가 언제든 다시 나타날 수 있다는 불안에 시달리게 됩니다.

어떤 조치가 이루어지고 있나?

이러한 위험에 대응하여 PCPD는 홍콩대학교 사건에 대한 형사 조사에 착수했으며 , 학교와 학부모를 위한 도구 키트를 발간했습니다 . 홍콩 정부는 법적 체계를 검토 중이며, 보안국은 딥페이크 포르노를 포함하도록 성범죄 법률을 확대하는 공청회를 계획하고 있습니다 . 홍콩의 개인정보보호 당국은 전 세계 약 60개 기관과 함께 AI 생성 유해 이미지, 특히 아동과 관련된 문제에 대해 우려를 표명하는 공동 성명을 발표했습니다 .

학부모와 학교는 무엇을 할 수 있나?

PCPD의 도구 키트는 학부모에게 자녀의 사진이나 비디오를 온라인에 게시하기 전에 신중히 생각하라고 조언하며, 학교는 학생들에게 딥페이크 생성 또는 공유의 위험성과 법적 결과에 대해 교육할 것을 촉구합니다 . 전문가들은 아동에게 비판적 디지털 리터러시 기술을 가르치고 온라인 안전에 대한 열린 대화를 장려할 것을 권장합니다 .