मेटा के विज्ञापनों में AI-जनरेटेड चाइल्ड सेक्शुअल अब्यूज़ इमेजरी: भारत सख्त

टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) ने मेटा के स्वयं के सार्वजनिक विज्ञापन लाइब्रेरी में 50 से अधिक ऐसी छवि और वीडियो विज्ञापनों की स्वतंत्र रूप से पहचान की, जो नवंबर 2025 और अगस्त 2026 के बीच पोस्ट किए गए थे। इनमें से कई विज्ञापन तथाकथित 'न्यूडिफाई' ऐप्स से जुड़े थे जो गैर-सहमति वाली यौन छवियां बनाते हैं । इन विज्ञापनों ने सामूहिक रूप से अमेरिका, ब्रिटेन और एक दर्जन से अधिक यूरोपीय देशों में हजारों खातों को प्रभावित किया ।

मेटा का अपना सिस्टम कैसे फेल हुआ

मेटा के विज्ञापन मानक स्पष्ट रूप से CSAM या न्यूडिफाई ऐप्स को बढ़ावा देने वाले विज्ञापनों पर प्रतिबंध लगाते हैं । फिर भी, ये विज्ञापन मेटा के अपने पारदर्शिता उपकरणों का उपयोग करके खोजे गए। TTP शोधकर्ताओं ने पाया कि कुछ विज्ञापन बीजिंग स्थित GatherOne Inc. से जुड़े थे, जो मेटा का एक अप्रूव्ड एडवरटाइज़िंग पार्टनर है। GatherOne ने Facebook और Instagram पर AI न्यूडिफाई ऐप्स के लिए लगभग 7,600 विज्ञापन चलाए थे । TTP ने GatherOne से जुड़े 210 Facebook पेजों की पहचान की, जिनमें से 85 पेज रिपोर्टिंग के समय भी सक्रिय थे ।

मेटा ने बाद में कहा कि अधिकांश विज्ञापनों की पहुंच न्यूनतम थी और समीक्षा के बाद उन्हें निष्क्रिय कर दिया गया, और इस विफलता का कारण पुरानी डिटेक्शन प्रणाली को बताया जो उसके नए AI मॉडरेशन टूल्स से पहले की है ।

भारत की तत्काल नियामक प्रतिक्रिया

भारत सरकार ने इन खुलासों पर तुरंत और सख्त रुख अपनाया। BBC Eye की एक अलग जांच में पाया गया था कि Instagram पर 'रेप वीडियो' और 'चाइल्ड वीडियो' जैसे सर्च टर्म्स का उपयोग करके पेड विज्ञापन CSAM को बढ़ावा दे रहे थे, जो टेलीग्राम चैनलों से जुड़ते थे । इसके बाद, भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने कई कदम उठाए:

• केंद्रीय IT मंत्री अश्विनी वैष्णव ने MeitY को मेटा को औपचारिक स्पष्टीकरण के लिए तलब करने का निर्देश दिया ।
• MeitY ने एक औपचारिक नोटिस जारी कर मेटा को आदेश दिया कि वह Instagram पर उन सभी विज्ञापनों और सामग्री को तुरंत अक्षम करे जो बाल यौन शोषण सामग्री (CSEAM) को बढ़ावा देते हैं या उस तक पहुंच की सुविधा प्रदान करते हैं ।
• मेटा को विस्तृत स्पष्टीकरण देने के लिए सात दिन का समय दिया गया, अन्यथा भारत के IT एक्ट और POCSO एक्ट के तहत कानूनी कार्रवाई का सामना करना पड़ सकता है ।
• सरकार ने विशेष रूप से मांग की कि मेटा यह स्पष्ट करे कि उसकी विज्ञापन समीक्षा प्रणाली ने ऐसी सामग्री को पेड वितरण के लिए कैसे पारित किया ।

यूरोपीय संघ का दूरगामी प्रतिबंध

यूरोपीय संघ की नियामक प्रतिक्रिया संरचनात्मक और विधायी रही, न कि मेटा के खिलाफ इन विज्ञापनों के लिए कोई विशेष प्रवर्तन कार्रवाई। EU AI एक्ट में अब एक नया प्रावधान शामिल है जो 2 दिसंबर 2026 से CSAM के जनरेशन पर पूरी तरह से प्रतिबंध लगा देगा । यह सीधे तौर पर WIRED रिपोर्ट में बताई गई AI-जनरेटेड दुरुपयोग सामग्री को लक्षित करता है।

AI एक्ट सुरक्षा और पारदर्शिता सुनिश्चित करने के लिए AI उपकरणों के डिप्लॉयर और प्रदाताओं पर दायित्व भी लागू करता है, और AI-जनरेटेड सामग्री को पहचानने योग्य बनाने की आवश्यकता होती है । अलग से, यूरोपीय आयोग ने अप्रैल 2025 में डिजिटल मार्केट्स एक्ट के उल्लंघन के लिए मेटा पर €200 मिलियन का जुर्माना लगाया था, हालांकि यह कार्रवाई सीधे CSAM से संबंधित नहीं थी ।

इसका क्या मतलब है

दोनों जांचों से मेटा के विज्ञापन समीक्षा बुनियादी ढांचे में एक प्रणालीगत विफलता का पता चलता है। स्पष्ट नीतियों के बावजूद, AI-जनरेटेड CSAM महीनों तक कई प्लेटफार्मों पर फिसलता रहा। भारत की त्वरित प्रतिक्रिया — एक 7-दिवसीय अल्टीमेटम — प्लेटफॉर्म स्व-नियमन के साथ सरकारों की बढ़ती अधीरता का संकेत देती है। वहीं, EU का प्रतिबंध केवल वितरण नहीं, बल्कि CSAM के जनरेशन को ही अवैध घोषित करके एक वैश्विक मिसाल कायम करता है।