Meta 廣告系統出大漏洞？AI 生成兒童色情內容竟然過審仲收足錢

Tech Transparency Project（TTP）獨立調查後發現，喺 Meta 自己嘅公開廣告庫入面，有超過50則呢類圖片同影片廣告，刊登日期由2025年11月到2026年8月。其中幾個廣告仲連結到所謂嘅「脫衣」App，呢啲 App 可以用 AI 生成未經同意嘅性化圖像 。呢批廣告總共接觸到美國、英國同超過十幾個歐洲國家嘅成千上萬用戶 。

Meta 自己嘅系統點樣失效

Meta 嘅廣告規定係明文禁止刊登 CSAM 或者推廣「脫衣」App 嘅 。但係 TTP 嘅研究人員竟然用 Meta 自己整嘅透明度工具就搵到呢啲廣告。研究發現，部分廣告係由北京嘅 GatherOne Inc. 投放，呢間公司係 Meta 認可嘅廣告合作夥伴，佢哋喺 Facebook 同 Instagram 總共落咗大約7,600則 AI「脫衣」App 廣告 。TTP 仲識別出210個同 GatherOne 有關嘅 Facebook 專頁，其中85個專頁喺調查期間仍然活躍 。

Meta 後來回應話，大部分廣告嘅接觸人數好少，已經喺審查後移除咗，佢哋歸咎於偵測系統係用咗較舊版本，而唔係新嘅 AI 審查工具 。

印度政府迅速出手

印度政府嘅反應好快。喺 BBC Eye 另一項獨立調查發現 Instagram 刊登付費廣告，用「強姦影片」同「兒童影片」呢類關鍵詞推廣 CSAM，並引導用戶去 Telegram 群組購買之後 ，印度電子資訊科技部（MeitY）即刻採取多項行動：

• IT 部長 Ashwini Vaishnaw 指示 MeitY 傳召 Meta 要求正式解釋 。
• MeitY 發出正式通知，命令 Meta 立即停用 Instagram 上面所有推廣或方便接觸兒童性剝削同虐待內容（CSEAM）嘅廣告同內容 。
• Meta 被限 7日內 提交詳細解釋，否則可能面臨法律行動，包括根據印度 IT 法同 POCSO 法嘅罰則 。
• 政府特別要求 Meta 解釋點解廣告審查系統會放行呢啲內容，仲要佢哋收取費用去刊登 。

歐盟嘅前瞻性禁令

歐盟嘅回應係結構性同立法層面嘅，並唔係針對 Meta 呢次事件嘅具體執法行動。歐盟 AI Act 加入咗新條文，由 2026年12月2日 起，直接禁止生成 CSAM 。呢個禁令直接針對 WIRED 報導入面提到嘅 AI 生成虐待內容。

AI Act 仲規定，AI 工具嘅部署者同提供者有責任確保安全同透明度，而且要求 AI 生成嘅內容要可以俾人識別 。另外，歐盟委員會喺2025年4月已經因為 Meta 嘅「同意或付費」廣告模式違反數位市場法，罰咗佢哋2億歐元，不過呢個罰款同 CSAM 冇直接關係 。

事件嘅啟示

呢兩項調查揭示咗 Meta 廣告審查體系嘅系統性問題。雖然佢哋有清晰嘅政策，但係 AI 生成嘅 CSAM 仍然喺幾個平台上面溜走咗幾個月。印度政府嘅快速反應——7日的最後通牒——顯示各國政府對平台自我監管嘅耐性正在減少。而歐盟嘅禁令，就開創咗全球先例，直接將生成 CSAM 定為違法，而唔係只係規管佢嘅發布。