Instagram पर AI जनित अश्लील वीडियो हटाने का आदेश, मेटा की नीतियों में बड़ा बदलाव जरूरी

क्या था मामला?

एक यूज़र ने ओवरसाइट बोर्ड में अपील की थी कि उसने एक ऐसी पोस्ट रिपोर्ट की थी जो उसकी एक दोस्त का AI से बना अश्लील वीडियो था, जो उसकी सहमति के बिना बनाया गया था और उसकी प्रतिष्ठा को नुकसान पहुंचा रहा था । मेटा ने शुरू में इस पोस्ट को हटाने से इनकार कर दिया था, यह कहते हुए कि इसमें 'बिना सहमति' के कोई सबूत नहीं है । बोर्ड ने मेटा के इस फैसले को पलट दिया और वीडियो को तुरंत हटाने का आदेश दिया ।

बोर्ड ने मेटा से किन बड़े बदलावों की मांग की?

बोर्ड की सिफारिशों का मकसद मेटा की नीतियों को 'फ़ोटोशॉप के ज़माने' से निकालकर AI के दौर में लाना है । प्रमुख बदलाव इस प्रकार हैं:

1. AI जनित नकली सामग्री को 'डिफ़ॉल्ट रूप से गैर-सहमति वाला' माना जाए

बोर्ड ने स्पष्ट कहा कि यौन संदर्भों (sexualized contexts) में AI से बनाई गई किसी व्यक्ति की नकल (impersonation) को 'डिफ़ॉल्ट रूप से गैर-सहमति वाला' (non-consensual by default) माना जाना चाहिए । इसका मतलब है कि अब पीड़ित को यह साबित करने की ज़रूरत नहीं होगी कि सामग्री उसकी सहमति के बिना बनाई गई है, बल्कि प्लेटफ़ॉर्म को ही इसे गैर-कानूनी मानना होगा । बोर्ड ने इसे मेटा की 'एडल्ट सेक्सुअल एक्सप्लॉइटेशन' (Adult Sexual Exploitation) नीति में जोड़ने की सिफारिश की ।

2. पीड़ित की ओर से भरोसेमंद लोग कर सकेंगे शिकायत

एक बड़ी प्रक्रियात्मक सिफारिश यह है कि यूज़र 'कनेक्टेड अकाउंट्स' (connected accounts) नामित कर सकेंगे - जैसे कि भरोसेमंद दोस्त या परिवार के सदस्य - जो पीड़ित की ओर से गैर-सहमति वाली अंतरंग छवियों (non-consensual intimate imagery) जैसे उल्लंघनों की रिपोर्ट कर सकेंगे । इससे उन समस्याओं का समाधान होगा जहाँ पीड़ित को सामग्री के बारे में पता ही नहीं होता या वह आघात या डर के कारण खुद रिपोर्ट नहीं कर पाती ।

3. AI जनित यौन शोषण सामग्री के लिए अलग वैश्विक रिपोर्टिंग श्रेणी बने

बोर्ड ने मेटा से कहा कि वह AI जनित गैर-सहमति वाली यौन छवियों/वीडियो के लिए एक समर्पित, वैश्विक रिपोर्टिंग श्रेणी (dedicated global reporting category) बनाए । फिलहाल, ऐसी सामग्री को धमकाने और उत्पीड़न (bullying and harassment) के एक सामान्य नियम के तहत वर्गीकृत किया जाता है, जिससे रिपोर्ट करना और ट्रैक करना मुश्किल हो जाता है ।

4. 'अपमानजनक यौन फ़ोटोशॉप' जैसी पुरानी भाषा को बदला जाए

बोर्ड ने मेटा की 'डिरॉगेटरी सेक्सुअलाइज़्ड फ़ोटोशॉप' (derogatory sexualized photoshop) जैसी पुरानी और अपमानजनक शब्दावली की आलोचना की है । बोर्ड चाहता है कि मेटा स्पष्ट और सटीक शब्दों का इस्तेमाल करे, जो AI के ज़माने के हिसाब से हों और सामग्री की 'गैर-सहमति' वाली प्रकृति पर ज़ोर दें, न कि इसे बनाने के तरीके (जैसे फ़ोटोशॉप) पर ।

5. कंटेंट क्रेडेंशियल्स (C2PA) लागू करें और डिटेक्शन में सुधार करें

एक अन्य AI-सामग्री मामले में, बोर्ड ने मेटा से AI जनित सामग्री की पहचान के लिए स्केलेबल टूल लागू करने को कहा, जिसमें C2PA कंटेंट क्रेडेंशियल्स स्टैंडर्ड (मीडिया की उत्पत्ति और संशोधनों को ट्रैक करने का एक मानक) अपनाना शामिल है । बोर्ड ने पाया कि मेटा का मौजूदा सिस्टम यूज़र द्वारा खुद लेबल करने पर बहुत अधिक निर्भर है और इसमें मज़बूत स्वचालित पहचान (automated detection) का अभाव है, खासकर वीडियो और ऑडियो के लिए ।

आम लोगों की सुरक्षा पर खास जोर

इस फैसले का केंद्रबिंदु आम, गैर-सार्वजनिक लोगों (non-public figures) की सुरक्षा में कमी को दूर करना था। बोर्ड ने जोर देकर कहा कि जब कोई आम आदमी या औरत इस तरह के AI शोषण का शिकार होता है, तो उस पर खुद यह साबित करने का बोझ होता है कि सामग्री उसकी सहमति के बिना बनाई गई है, जबकि सार्वजनिक हस्तियों (public figures) के पास ऐसा करने के लिए संसाधन और सार्वजनिक सहायता होती है । यह मामला एक महिला के AI जनित यौन शोषण से जुड़ा था, जिसकी शिकायत उसके एक दोस्त ने की थी ।

महिलाओं और लड़कियों पर असमान प्रभाव

बोर्ड ने यह भी स्वीकार किया कि इस तरह के डीपफेक महिलाओं और लड़कियों को असमान रूप से नुकसान पहुंचाते हैं । मज़बूत स्वचालित पहचान, सबूत के बोझ में बदलाव और स्पष्ट नीतियों की मांग करके, बोर्ड ने लैंगिक-आधारित ऑनलाइन शोषण (gender-based online abuse) की व्यवस्थित प्रकृति को संबोधित करने की कोशिश की ।

आगे क्या?

मेटा को ओवरसाइट बोर्ड की सिफारिशों पर 60 दिनों के भीतर जवाब देना है । जहाँ व्यक्तिगत मामले (वीडियो हटाने) का फैसला बाध्यकारी (binding) है, वहीं व्यापक नीतिगत सिफारिशें बाध्यकारी नहीं हैं, लेकिन इनका बड़ा सार्वजनिक और प्रतिष्ठात्मक महत्व होता है । यह फैसला 2024 और 2025 के पिछले बोर्ड फैसलों पर आधारित है, जिनमें मेटा की डीपफेक नीतियों को 'असंगत' (incoherent) और 'पर्याप्त रूप से स्पष्ट नहीं' (not sufficiently clear) पाया गया था ।