Meta 被曝投放 AI 生成儿童性虐待广告，印度强硬要求 7 日内解释

Tech Transparency Project（TTP）独立在 Meta 自己的公开广告库中发现了超过 50 条此类图片和视频广告，这些广告发布于 2025 年 11 月至 2026 年 8 月期间。其中多条广告链接到所谓的“脱衣”应用，这些应用可以生成未经同意的性化图像 。这些广告总共覆盖了美国、英国以及超过十几个欧洲国家的数千个账户 。

Meta 自身系统的失效

Meta 的广告标准明确禁止包含 CSAM 或推广“脱衣”应用的广告 。然而，这些广告是利用 Meta 自己的透明度工具被发现的。TTP 的研究人员发现，部分广告与总部位于北京的 GatherOne Inc.（一家 Meta 批准的广告合作商）有关联，该公司曾在 Facebook 和 Instagram 上投放了大约 7,600 条 AI“脱衣”应用的广告 。TTP 识别出 210 个与 GatherOne 关联的 Facebook 页面，其中 85 个页面在报道时依然活跃 。

Meta 随后声明，大部分广告触及面极小，并在审查后已被禁用，将问题归咎于先于其新版 AI 审核工具存在的检测系统 。

印度迅速而强硬的监管回应

印度政府对这一事件的曝光反应极其强烈。在 BBC Eye 的另一项调查发现 Instagram 存在明确推广 CSAM 的付费广告之后——这些广告使用“强奸视频”和“儿童视频”等搜索词，引导用户至 Telegram 频道 ——印度电子和信息技术部（MeitY）采取了多项行动：

• 信息技术部长 Ashwini Vaishnaw 指示 MeitY 传唤 Meta 要求其正式解释 。
• MeitY 发布正式通知，命令 Meta 立即禁用 Instagram 上所有促进或便利访问儿童性剥削和虐待材料（CSEAM）的广告和内容 。
• Meta 被给予 7 天 时间提供详细解释，否则将面临法律行动，包括根据印度 IT 法和 POCSO 法处以罚款 。
• 政府特别要求 Meta 解释其广告审核系统如何通过了此类内容的付费投放 。

欧盟的前瞻性禁令

欧盟的监管回应是结构性和立法性的，而非针对这些广告对 Meta 的特定执法行动。欧盟 《AI 法案》 现已包含一项新条款，将从 2026 年 12 月 2 日 起 直接禁止生成 CSAM 。这直接针对的是像 WIRED 报道中那种 AI 生成的虐待材料。

《AI 法案》还对 AI 工具的部署者和提供者施加了确保安全性和透明度的义务，并要求 AI 生成的内容必须可识别 。此外，2025 年 4 月，欧盟委员会已因 Meta 的“同意或付费”广告模式违反《数字市场法》而对其处以 2 亿欧元罚款，但该行动与 CSAM 无直接关联 。

事件的影响

这两项调查揭示了 Meta 广告审核基础设施的系统性失灵。尽管有明确的政策，AI 生成的 CSAM 仍然在数月内渗透到多个平台。印度的快速响应——发出 7 天最后通牒——表明了各国政府对平台自我监管的耐心正在耗尽。而欧盟的禁令则通过直接禁止 CSAM 的生成（而非仅仅是传播），为全球树立了先例。