UN की चेतावनी: बच्चों के लिए ऑनलाइन संकट गहरा रहा है, AI और व्यावसायिक मॉडल बन रहे हैं वजह

बड़ा खतरा: एक पूरी पीढ़ी उजागर

दुनिया भर में 15 से 24 साल के 82% से अधिक युवा ऑनलाइन हैं, और वे गलत सूचना (disinformation), उत्पीड़न (harassment), एल्गोरिदमिक पूर्वाग्रह (algorithmic biases), और AI के दुर्भावनापूर्ण उपयोग के असमान रूप से शिकार हो रहे हैं । रिपोर्ट में चेतावनी दी गई है कि कार्रवाई का समय तेजी से खत्म हो रहा है: AI उन नियामक ढांचों से कहीं आगे निकल रहा है जो कभी इसके लिए नहीं बनाए गए थे, और यह सिंथेटिक कंटेंट से लेकर AI-सुविधा शोषण तक नए-नए खतरे पैदा कर रहा है ।

बिज़नेस मॉडल: नुकसान आकस्मिक नहीं हैं

रिपोर्ट ने एक अहम तर्क दिया है: युवाओं को ऑनलाइन जो नुकसान पहुंच रहे हैं, वे आकस्मिक नहीं हैं । ये सीधे तौर पर उन बिज़नेस मॉडल्स का नतीजा हैं जो ध्यान (attention) और व्यक्तिगत डेटा को मुद्रीकृत (monetise) करते हैं, और उन डिज़ाइन सुविधाओं का परिणाम हैं जो अधिकतम जुड़ाव और खर्च के लिए बनाई गई हैं । रिपोर्ट में विशेष रूप से 'डार्क पैटर्न' (dark patterns), 'लूट बॉक्स' (loot boxes) और ऐसी अन्य तरकीबों की आलोचना की गई है, जो बच्चों में अनिवार्य उपयोग (compulsive use) को बढ़ावा देती हैं, जबकि उनकी आदतें और पहचान अभी भी आकार ले रही होती हैं । रिपोर्ट ने ऑनलाइन खर्च बढ़ाने के लिए बच्चों का शोषण करने वाली छिपी हुई विज्ञापन रणनीति पर भी चिंता जताई है ।

कृत्रिम बुद्धिमत्ता: मौजूदा खतरों को और बढ़ाना

AI मौजूदा जोखिमों को उस दर से बढ़ा रहा है, जितनी तेजी से सुरक्षा उपाय नहीं हो पा रहे हैं। रिपोर्ट में AI से पैदा होने वाले खतरों को AI-जनरेटेड कंटेंट से लेकर AI-सुविधा शोषण तक बताया गया है । संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस का सीधा हवाला देते हुए कहा गया है: "कोई भी बच्चा अनियमित AI के लिए प्रयोगशाला का गिनी पिग नहीं होना चाहिए... जब कोई बच्चा हानि का सामना करता है, तो इसका जवाब कभी 'एल्गोरिदम ने ऐसा किया' नहीं होना चाहिए" ।

युवा भागीदारी: सिर्फ पीड़ित नहीं, बल्कि वकील भी

रिपोर्ट इस बात पर जोर देती है कि बच्चे और युवा सिर्फ पीड़ित नहीं हैं — वे निर्माता, वकील और आयोजक भी हैं । हालांकि, नीतियां बनाने वाले मंचों और उन नीतियों को आकार देने वाले शोधों में उनके दृष्टिकोण अभी भी कम प्रतिनिधित्व में हैं । रिपोर्ट स्पष्ट कहती है: "उनकी रक्षा करना और उन्हें शामिल करना प्रतिस्पर्धी लक्ष्य नहीं हैं। हमें दोनों करना होंगे" ।

AI शासन में बच्चों के अधिकारों को शामिल करने की तात्कालिकता

रिपोर्ट में मांग की गई है कि बच्चों के अधिकारों को अभी से AI गवर्नेंस फ्रेमवर्क में शामिल किया जाए, जबकि ये कानून अभी भी विकसित हो रहे हैं — चेतावनी देते हुए कि "एक ऐसी खिड़की जो ज्यादा देर तक खुली नहीं रहेगी" बंद हो रही है । यह सरकारों, तकनीकी कंपनियों, विज्ञापनदाताओं, मीडिया और शोधकर्ताओं से एक साथ कार्रवाई करने का आग्रह करती है। इसमें कृत्रिम बुद्धिमत्ता के युग में बच्चों के अधिकारों और संरक्षण के लिए गठबंधन (Coalition for Children's Rights and Protection in the Age of Artificial Intelligence) और एक AI बाल सुरक्षा प्रतिज्ञा (AI Child Safety Pledge) का उल्लेख किया गया है, जो किसी भी ऐसे सिस्टम को कवर करेगी जिस तक कोई बच्चा पहुंच सकता है ।