這類「脫衣」工具通常會把真實人物的臉合成到裸露身體上,或將人物放入色情影片,製作未經本人同意的性化影像。這不只是一般的內容審核疏漏,也涉及影像被冒用者的私隱、安全與尊嚴。
非營利組織Tech Transparency Project(TTP)利用Meta自有的廣告資料庫展開調查,發現一個與GatherOne相關的大型投放網絡:
報告認為,相關廣告同時觸犯Meta三類規定:禁止宣傳製作「非自願私密影像」的nudify App、禁止含裸露或性暗示內容的廣告,以及禁止利用假帳戶等方式進行不真實行為。
GatherOne並非普通的廣告客戶。它是Meta在中國挑選的11家「頂級」授權廣告轉售商之一,負責協助中國企業購買Meta海外平台的廣告服務。
由於Facebook與Instagram在中國境內受到封鎖,中國企業若要接觸Meta的全球用戶,往往需要透過這類中介機構。TTP透過Meta廣告資料庫中的揭露資訊,確認相關廣告帳戶將GatherOne列為廣告主及付款方。
報告亦稱,GatherOne每月整體可產生超過3萬則廣告。如此龐大的投放量,或許能部分解釋為何Meta的審核及執法系統未能及早拆解這個網絡;不過,TTP的調查本身並未證明Meta是主動批准這些特定廣告。
Meta沒有直接回覆TTP的提問,但向彭博社表示,公司正採取「積極措施」打擊nudify App;對不合規廣告商,Meta可取消廣告、施加財務處分,並終止其廣告帳戶。
Meta女性安全政策主管Cindy Southworth表示:「我們不允許非自願私密影像或nudify App出現在平台上,並會採取積極措施打擊這類內容。」
早在2025年6月,Meta已起訴CrushAI nudify App的開發者,並宣布推出新的偵測技術。 但TTP這次的調查顯示,即使Meta已公開表明立場,相關廣告仍能透過其授權合作夥伴進入平台,且不少內容要到事後才被移除。
報告發布後,GatherOne向TTP表示,已暫停與AI nudify、換臉及「女友」服務相關的新廣告帳戶申請,並稱正進行「全面合規升級,以應對合成媒體的技術演進」。
事件受到關注的另一個原因,是中國廣告商對Meta收入的重要性。根據報告及其他調查:
TTP將這次事件放在更大的脈絡中,認為Meta過去被指對中國合作夥伴的違規廣告相對寬容,可能與公司依賴數十億美元中國廣告收入有關。 這項調查並不能單獨證明每一宗違規廣告都與收入決策直接相關,但它確實揭露了平台政策承諾與商業誘因之間的張力。
這份報告發布之際,美國新的聯邦法規已經生效。《Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act》(簡稱《Take It Down Act》)在美國眾議院以409票對2票通過,並於2025年5月19日由總統特朗普簽署成為第119-12號公法。
法律禁止未經同意在網上發布私密影像,涵蓋真實影像及AI生成影像;當平台收到通知後,也必須迅速移除相關內容。
因此,TTP的調查不只是在追問「為何廣告會出現」,也觸及平台如何建立有效的主動偵測、廣告商審查及通知下架機制。法律提供了受害者要求移除內容的框架,但事件顯示,若平台仍主要依賴事後處理,違規廣告便可能在被發現前接觸大量用戶。
TTP報告揭露,Meta一名獲官方授權的中國廣告合作夥伴,透過大量Facebook專頁投放了數千則宣傳AI「脫衣」App的廣告。Meta表示相關內容違反平台政策,GatherOne則稱已暫停新的相關帳戶申請;然而,Meta仍未說明為何未能更早瓦解這個投放網絡。
事件最值得關注的,或許不只是7,600則廣告本身,而是平台如何在面對高價值廣告市場時,落實自己訂下的安全標準。2024年中國廣告收入達183.5億美元、且其中相當部分被指與違規內容有關,令這場政策執行考驗更加尖銳。