在香港,一名香港大学(HKU)法律系男学生涉嫌使用免费AI软件,生成约700张非自愿的色情图像,受害者达20至30名女性,包括他的大学同学、小学同学以及中学老师。PCPD警告,儿童和青少年可能会制作并分享针对同侪的恶意深伪内容,且往往不了解其危害的严重性。这种情况并不限于香港——其他地区的学校也曾报告遭到AI深伪学生的露骨图像勒索。
AI生成的图像性虐待的受害者通常会经历羞辱、羞耻、愤怒、侵犯感和自责,导致持续的情绪困扰、远离学校与家庭,以及难以维持信任关系。部分案例可能导致自残和自杀念头。每次内容被分享,创伤都会加剧。儿童尤其脆弱,因为他们的认知能力仍在发展,更难以识别深伪内容。
2025年,互联网观察基金会评估了8,029张AI生成的图像和视频为真实儿童性虐待内容,且数量在暗网和主流商业平台上均持续稳步上升。这些图像正被大规模生成和传播,令现有审核系统不堪重负。
根据香港现行法律,仅制作AI生成的私密图像而不传播,并不构成刑事犯罪——只有发布或威胁发布才被涵盖。港大深伪案中的受害者表示,法律咨询确认了这一漏洞,导致无法对制作图像的学生追究刑事责任。香港保安局已宣布将展开公众咨询,以扩大性罪行法律至涵盖深伪色情内容,目标在2026年前通过修法。香港大律师公会亦呼吁制定“针对性法律”来解决此问题。然而,截至2026年中,相关法律尚未修订。
PCPD发现,香港家长和儿童对深伪风险的意识普遍不足,而涉及儿童的恶意深伪案件正在迅速增加。“晒娃”(sharenting)——家长在线上过度分享儿童照片——为制作深伪内容提供了可被轻易滥用的原始素材。PCPD已于2025年12月发布了《应对滥用人工智能深度伪造技术:学校与家长指南》,以提高意识并提供实用指导。
伪造的私密图像一旦被传播,便极难从互联网上移除,对受害者造成持久的伤害。这种永久性加剧了心理创伤,因为受害者知道这些图像随时可能再次出现。
针对这些风险,PCPD已对港大事件展开刑事调查,并发布了供学校和家长使用的指南。香港政府正在检视法律框架,保安局计划就扩大性罪行法律以涵盖深伪色情内容展开公众咨询。香港的隐私保护机构连同近60个全球同行发布联合声明,对AI生成的有害图像,尤其是涉及儿童的图像,表示深切关注。
PCPD的指南建议家长在线上分享子女照片或视频前应三思,并敦促学校教育学生关于制作或分享深伪内容的风险和法律后果。专家建议教导儿童关键的数字素养技能,并鼓励就网上安全进行开放对话。