这里所说的“脱衣”应用,并不是普通的换脸工具。相关应用可以利用人工智能,把女性的脸合成到裸体照片或色情视频中,制造未经本人同意的私密影像。这样的内容明确触及Meta关于非自愿私密影像、裸露和性暗示内容的禁令。
Tech Transparency Project(TTP)是一个调查大型科技公司的非营利组织。该项目利用Meta公开的广告资料库追踪相关广告,发现:
据TTP判断,相关广告同时触犯了Meta的多项规则:禁止推广能够制造“非自愿私密影像”的应用,禁止含有裸露或明显性暗示的广告,以及禁止通过虚假账号等方式实施不真实行为。
GatherOne并非普通广告主,而是Meta在中国挑选的11家官方“顶级”广告转售商之一。由于Facebook和Instagram在中国大陆无法直接访问,中国企业若要通过这些平台触达海外消费者,通常需要借助此类广告中介。
TTP通过Meta广告资料库中的披露信息确认了GatherOne与这些广告之间的关联:相关账号均将GatherOne列为广告主和付款方。报告还称,GatherOne每月整体生成的广告数量超过3万条。广告业务规模庞大,或许能够部分解释为何Meta的审核机制未能及时瓦解这组广告网络;但这并不能改变相关广告违反平台规则的事实。
Meta没有直接回答TTP提出的问题,但向彭博社表示,公司采取“积极措施”打击“脱衣”应用。Meta称,违规广告主可能面临广告取消、经济处罚以及广告账户终止等后果。
Meta女性安全政策负责人辛迪·索思沃思(Cindy Southworth)表示:“我们不允许非自愿私密影像或‘脱衣’应用出现在平台上,并会采取积极措施打击这类内容。”
这并不是Meta第一次处理类似问题。2025年6月,Meta曾起诉CrushAI“脱衣”应用的开发者,并宣布推出新的检测技术。但TTP此次调查显示,即使在这些措施公布之后,相关广告仍能通过Meta自己的授权合作渠道进入平台。
报告发布后,GatherOne告诉TTP,公司已经暂停与AI“脱衣”、换脸和“虚拟女友”服务相关的新广告账户申请,并称正在“进行全面的合规升级,以应对合成媒体的技术演变”。
这起事件的背景,是Meta对中国广告市场存在相当程度的收入依赖。根据报告及其他调查:
TTP认为,GatherOne事件并非孤立个案,而是Meta在执行平台规则时面临的结构性矛盾:一方面,公司公开承诺打击有害和违规广告;另一方面,中国广告主带来的收入规模达到数十亿美元。
需要注意的是,相关收入数据描述的是来自中国广告主的广告收入,并不意味着Meta的社交平台在中国大陆正常开放。中国企业仍可以通过面向海外市场的广告业务,购买在其他地区展示的广告。
调查发布之际,美国新的联邦法律也已生效。《Take It Down Act》的全称为“通过使网站和网络停止传播已知剥削内容来解决技术性深度伪造问题法案”。该法案在美国众议院以409票对2票通过,并于2025年5月19日由特朗普总统签署成为第119-12号公法。
法律禁止未经同意在网上发布真实或人工智能生成的私密影像,并要求相关网络平台在收到通知后及时删除此类内容。这意味着,受害者获得了更明确的联邦法律保护和平台下架机制。
但TTP的调查也说明,法律框架生效并不等于平台审核已经到位。广告可以在被发现、下架之前获得曝光;当违规内容通过平台认可的广告合作伙伴进入系统时,责任追踪和及时处置就变得更加复杂。
TTP报告的核心发现并不只是“平台上出现了7600条违规广告”,而是这些广告被追溯到了Meta授权的广告合作伙伴GatherOne。Meta表示会删除违规内容、处罚广告主并终止账户,但尚未公开解释,为何这组广告网络没有更早被彻底拆除。
GatherOne已经暂停相关新账户申请,Meta也重申了禁止非自愿私密影像和“脱衣”应用的政策。接下来,外界关注的将是平台能否把政策承诺落实到广告代理商、付款方和批量投放网络的实际审核中——尤其是在中国广告收入达到183.5亿美元的背景下。