TTP का दावा: Meta के Facebook और Instagram पर संदिग्ध AI-निर्मित बाल यौन शोषण सामग्री वाले 332 विज्ञापन चले

टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) की 8 सितंबर की रिपोर्ट में आरोप लगाया गया कि Meta की विज्ञापन प्रणालियों ने नवंबर 2025 से अगस्त 2026 के बीच Facebook और Instagram पर संदिग्ध AI-निर्मित बाल यौन शोषण सामग्री (CSAM) वाले 332 पेड विज्ञापन वितरित किए। TTP के अनुसार, इन विज्ञापनों की पहुंच विभिन्न क्षेत्रों में 29,000 से अधिक उपयोगकर्ताओं तक रही। हालांकि, संस्था ने यह भी चेताया कि सार्वजनिक Ad Library के आंकड़े वितरण की पूरी तस्वीर नहीं देते, खासकर उन जगहों पर जहां क्षेत्रवार खुलासे उपलब्ध नहीं हैं। 69

जांच में क्या मिला

TTP के अनुसार, विज्ञापनों में बच्चों को यौन रूप से दिखाने के लिए AI से बनाई या बदली गई तस्वीरों का इस्तेमाल हुआ और कई विज्ञापन ‘न्यूडिफाई’ या डीपफेक-शैली के ऐप्स को बढ़ावा दे रहे थे। ‘न्यूडिफाई’ ऐप किसी तस्वीर को डिजिटल तरीके से अश्लील रूप देने का दावा करते हैं। TTP ने कहा कि कुछ तस्वीरें वास्तविक बच्चों की तस्वीरों पर आधारित लगती थीं, जिनमें एक यूरोपीय शाही परिवार का नाबालिग सदस्य भी शामिल था। 910

रिपोर्ट के मुताबिक विज्ञापन यूरोपीय संघ और ब्रिटेन, अमेरिका, भारत तथा ऑस्ट्रेलिया में दिखाई दिए। TTP ने भारत में 84 और ऑस्ट्रेलियाई उपयोगकर्ताओं को लक्षित 120 विज्ञापनों की पहचान की; बताया गया कि इनकी सबसे बड़ी संख्या यूरोपीय संघ और ब्रिटेन में चली। 112

TTP ने कई विज्ञापनों को AI ऐप डेवलपर्स और Meta के चीन स्थित विज्ञापन-रीसेलर नेटवर्क से जोड़ा। रिपोर्ट में GIMC और BlueFocus जैसे रीसेलरों का उल्लेख है, जबकि अन्य रिपोर्टिंग में कई विज्ञापनों के डीपफेक ‘न्यूडिफाई’ ऐप्स का प्रचार करने की बात कही गई। 96

पेड विज्ञापन होने से मामला ज्यादा गंभीर क्यों है

मुद्दा केवल इतना नहीं है कि किसी सोशल मीडिया मंच पर हानिकारक सामग्री दिखाई दी। ये पेड विज्ञापन थे—अर्थात TTP के निष्कर्षों के अनुसार, सामग्री Meta की विज्ञापन सबमिशन और समीक्षा प्रक्रियाओं से गुजरकर उपयोगकर्ताओं तक पहुंची।

TTP ने इसे विज्ञापन समीक्षा और विज्ञापनदाता निगरानी, दोनों की विफलता बताया। संस्था का कहना था कि अधिकांश तस्वीरें खुली और स्पष्ट थीं, न कि ऐसे संकेतों के पीछे छिपी हुई जिन्हें पहचानना मुश्किल हो। TTP के मुताबिक Meta ने पहले हटाए गए 113 विज्ञापनों को वयस्क यौन सामग्री या सामान्य नीति-उल्लंघन जैसी श्रेणियों में रखा था। TTP के मुद्दा उठाने के बाद इन नोटिसों को बाल-शोषण श्रेणी में बदला गया। 9

वर्गीकरण का यह अंतर पारदर्शिता और कार्रवाई, दोनों के लिए अहम है। TTP ने कहा कि यदि प्रतिबंधित विज्ञापनों को लगातार बाल-शोषण सामग्री के तौर पर दर्ज नहीं किया जाता, तो सार्वजनिक हटाने के आंकड़े समस्या के पैमाने और प्रकृति को स्पष्ट रूप से नहीं दिखा पाएंगे। 9

Meta ने क्या कहा और कितने विज्ञापन हटे

Meta के प्रवक्ता एंडी स्टोन ने कहा कि कंपनी ‘न्यूडिफाई’ ऐप्स और हर तरह के बाल शोषण पर रोक लगाती है, “चाहे वह वास्तविक हो या AI से बनाया गया हो।” उनका कहना था कि नियमों से बचने की कोशिश करने वाले लोग लगातार अपने तरीके बदलते रहते हैं, इसलिए Meta को पहचान और प्रवर्तन में लगातार सुधार करना पड़ता है। 3

Meta ने यह भी कहा कि कई विज्ञापनों की पहुंच सीमित थी, कुछ को बाहरी रिपोर्टिंग से पहले ही निष्क्रिय कर दिया गया था और कुछ विज्ञापन उन नए टूल्स से पहले के थे, जिन्हें अपलोड के समय नियम-विरुद्ध AI-संबंधित विज्ञापनों को पहचानकर रोकने के लिए बनाया गया है। 11

TTP के मुताबिक, 1 सितंबर तक Meta ने 332 में से 183 विज्ञापन हटा दिए थे। 2 सितंबर को TTP द्वारा निष्कर्ष साझा किए जाने के बाद कंपनी ने बाकी 149 विज्ञापन भी हटा दिए और 113 अन्य विज्ञापनों की श्रेणी को बाल-शोषण नियमों के तहत बदल दिया। 9

फिर भी TTP ने कहा कि इसके बाद के दिनों में इसी तरह के विज्ञापन दिखते रहे, जिनमें यूरोपीय शाही परिवार के उस नाबालिग से जुड़ा विज्ञापन भी शामिल था। इसलिए, पहचाने गए विज्ञापनों को हटाना अपने आप में यह साबित नहीं करता कि विज्ञापन समीक्षा की मूल समस्या सुलझ गई थी। 9

कानूनी और राजनीतिक दबाव बढ़ा

यह रिपोर्ट ऐसे समय आई जब युवा उपयोगकर्ताओं की सुरक्षा और Meta की नीतियों पर पहले से व्यापक जांच चल रही थी। TTP ने इन निष्कर्षों को अमेरिकी राज्यों के अटॉर्नी जनरल्स के साथ संभावित 18 अरब डॉलर के समझौते से जोड़ा, जिसमें आरोप है कि Meta के उत्पादों ने युवाओं को नुकसान पहुंचाया। 9

अमेरिकी सीनेटर मार्क वॉर्नर पहले Meta से पूछ चुके थे कि शोषणकारी विज्ञापन उसकी प्रणालियों से कैसे गुजर गए। उन्होंने यह भी रेखांकित किया था कि Meta की सार्वजनिक Ad Library में उपयोगकर्ताओं के लिए आपत्तिजनक विज्ञापनों की रिपोर्ट करने का कोई माध्यम नहीं है। 17

भारत में राष्ट्रीय मानवाधिकार आयोग (NHRC) ने उन रिपोर्टों पर संज्ञान लिया जिनमें कहा गया था कि Instagram पर पेड विज्ञापन CSAM तक पहुंच को बढ़ावा दे रहे थे या उसे सुगम बना रहे थे। आयोग ने इस मामले में संबंधित सरकारी मंत्रालयों और पुलिस से जवाब मांगा। 2218

TTP ने विज्ञापनों की रिपोर्ट कैसे की

TTP ने कहा कि उसने अपनी जांच में पहचाने गए हर विज्ञापन की सूचना नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (NCMEC) को दी, जिसमें उसकी CyberTipline के जरिये रिपोर्टिंग भी शामिल थी। इस मार्ग से ऑनलाइन बाल शोषण की संदिग्ध सामग्री का आकलन किया जा सकता है और जरूरत पड़ने पर उसे कानून-प्रवर्तन एजेंसियों को भेजा जा सकता है। 93

रिपोर्ट का व्यापक निष्कर्ष यह है कि AI के दुरुपयोग को रोकने का काम केवल सामग्री प्रकाशित होने के बाद की मॉडरेशन तक सीमित नहीं रह सकता। पेड विज्ञापनों में मुख्य नियंत्रण-बिंदु उससे पहले हैं: विज्ञापनदाता की जांच, क्रिएटिव की समीक्षा, स्वचालित पहचान, नीति-उल्लंघन का सही वर्गीकरण और सामग्री सामने आने पर त्वरित कार्रवाई।