कैसे बड़ी टेक कंपनियों के AI मॉडल बड़े पैमाने पर प्राइवेसी के हनन पर बने हैं: एमनेस्टी की रिपोर्ट

जनरेटिव AI के तेज़ी से बढ़ते प्रभाव के पीछे डेटा की एक अतृप्त भूख छिपी है। 28 मई, 2026 को, एमनेस्टी इंटरनेशनल ने 'अनलॉफुल बाय डिज़ाइन: एक्सपोज़िंग द ह्यूमन राइट्स कॉस्ट्स ऑफ जेनरेटिव AI' (Unlawful by Design: Exposing the Human Rights Costs of Generative AI) नामक एक तीखी रिपोर्ट जारी की, जो उस नींव को ही चुनौती देती है जिस पर ये सिस्टम बने हैं। यह रिपोर्ट सीधे तौर पर Google, Meta और OpenAI जैसी प्रमुख टेक कंपनियों पर आरोप लगाती है कि वे ऐसे मॉडल संचालित कर रही हैं जो "डिज़ाइन से ही बड़े पैमाने पर प्राइवेसी के हनन में जड़ें जमाए हुए हैं", और ऐसा वे पूरे वेब से बिना सहमति के, बड़े पैमाने पर व्यक्तिगत डेटा की स्क्रैपिंग करके कर रही हैं ।

एमनेस्टी का केंद्रीय तर्क यह है कि ये प्रथाएं कोई दुर्भाग्यपूर्ण साइड इफेक्ट नहीं हैं, बल्कि Google के Gemini, Meta के Llama और OpenAI के GPT-3 जैसे सिस्टम बनाने का मूल तरीका हैं। संगठन ने निष्कर्ष निकाला है कि ऐसे सिस्टम "मौलिक रूप से अंतर्राष्ट्रीय मानवाधिकार कानून (IHRL) के साथ असंगत हैं" और इसका समाधान बेहतर नियमन नहीं, बल्कि पूर्ण प्रतिबंध है ।

यह रिपोर्ट प्राइवेसी चिंताओं से आगे बढ़कर तीन विशिष्ट श्रेणियों के नुकसानों को रेखांकित करती है, जो इस नाटकीय प्रतिबंध की मांग का समर्थन करने के लिए तैयार की गई हैं।

'डिज़ाइन से गैरकानूनी' का आरोप

एमनेस्टी के तर्क का सार यह है कि इन AI मॉडलों को डेटा प्रदान करने वाली पाइपलाइनें एक तरह की सामूहिक निगरानी के बराबर हैं। रिपोर्ट में बताया गया है कि कैसे टेक कंपनियां ऑटोमेटेड टूल्स का इस्तेमाल करके "व्यक्तियों की स्पष्ट सहमति के बिना, तस्वीरों, सोशल मीडिया गतिविधि और अन्य व्यक्तिगत जानकारी सहित ऑनलाइन डेटा का विशाल भंडार निकालती हैं" । चूंकि यह गैर-सहमति वाला डेटा निष्कर्षण सिस्टम की बुनियादी संरचना में ही शामिल है, रिपोर्ट इन्हें "डिज़ाइन से गैरकानूनी" करार देती है ।

एमनेस्टी इस ऑटोमेटेड डेटा हार्वेस्टिंग की तुलना राज्य-स्तरीय सामूहिक निगरानी प्रणालियों से करता है, और तर्क देता है कि यह विकास के पहले चरण से ही प्राइवेसी के अधिकार का उल्लंघन है । रिपोर्ट अपने शोध में GPT-3, Gemini, Llama, और DeepSeek, Midjourney, Stable Diffusion जैसे कई प्रमुख सार्वजनिक रूप से उपलब्ध मॉडलों और टूल्स का नाम लेती है ।

नुकसान की तीन श्रेणियां

जोखिम-आधारित नियामक दृष्टिकोण के बजाय प्रतिबंध की अपनी मांग का समर्थन करने के लिए, रिपोर्ट तीन स्पष्ट लेकिन आपस में जुड़ी हुई नुकसान की श्रेणियों को उजागर करती है।

1. डिज़ाइन से बड़े पैमाने पर प्राइवेसी का हनन

पहला और बुनियादी नुकसान स्वयं प्राइवेसी का उल्लंघन है। रिपोर्ट में विस्तार से बताया गया है कि कैसे अरबों सार्वजनिक पोस्ट, तस्वीरों और बातचीत से बने डेटासेट बिना अनुमति के संकलित किए जाते हैं। यह कोई लीक या डेटा ब्रीच नहीं है; बल्कि AI बनाने का जानबूझकर अपनाया गया संरचनात्मक तरीका है। एमनेस्टी का तर्क है कि "प्राइवेसी अधिकारों का यह दुरुपयोग" शुरुआती बिंदु है, जो पूरी विकास प्रक्रिया को मानवाधिकार मानकों के तहत अवैध बना देता है ।

2. रूढ़िवादिता, पूर्वाग्रह और भेदभाव को बढ़ावा देना

नुकसान की दूसरी श्रेणी सीधे डेटा से उत्पन्न होती है। चूंकि प्रशिक्षण सामग्री खुले वेब से अंधाधुंध तरीके से स्क्रैप की जाती है, यह "वास्तविक दुनिया के पूर्वाग्रहों से प्रदूषित" होती है। एमनेस्टी चेतावनी देता है कि ये पूर्वाग्रह AI द्वारा बेअसर नहीं होते; बल्कि, वे "नस्लीय, लैंगिक और सांस्कृतिक आधार पर मॉडल के आउटपुट में बढ़ जाते हैं" । रिपोर्ट ऐतिहासिक रूप से हाशिए पर पड़े समुदायों के लिए विशेष चिंता व्यक्त करती है, जो इस प्रणालीगत भेदभाव का खामियाजा भुगतते हैं, क्योंकि जहरीली रूढ़िवादिता और पूर्वाग्रह से भरे संबंध स्वचालित और बड़े पैमाने पर फैलते हैं ।

3. प्रतिकूल पर्यावरणीय प्रभाव

नुकसान की अंतिम श्रेणी डिजिटल से हटकर भौतिक दुनिया पर केंद्रित है। रिपोर्ट इन सिस्टमों के निर्माण और संचालन की भारी पारिस्थितिक लागत का दस्तावेजीकरण करती है, और "आवश्यक विशाल डेटा सेंटरों और ऊर्जा खपत" की ओर इशारा करती है । रिपोर्ट का तर्क है कि यह पर्यावरणीय प्रभाव, अनियंत्रित AI रेस का एक अतिरिक्त और अक्सर अनदेखा किया जाने वाला मानवाधिकार परिणाम है।

सिर्फ नियमन नहीं, पूर्ण प्रतिबंध की मांग

एमनेस्टी इंटरनेशनल का निष्कर्ष स्पष्ट और कठोर है। यह पाता है कि स्टैंडअलोन जनरेटिव AI सिस्टम, जो इन अवैध वेब-स्क्रैपिंग पाइपलाइनों पर निर्भर हैं, "अंतर्राष्ट्रीय मानवाधिकार कानून (IHRL) के साथ असंगत" हैं । संगठन का तर्क है कि मौजूदा नियामक मॉडल, जैसे कि EU के AI अधिनियम का जोखिम-आधारित ढांचा, अपर्याप्त हैं । इसके बजाय, यह सरकारों से इन तरीकों से बने सिस्टमों पर "पूर्ण प्रतिबंध" लगाकर हस्तक्षेप करने का आह्वान करता है, और पूरी प्रथा को मानवाधिकार संकट के रूप में प्रस्तुत करता है जिसे केवल प्रबंधित नहीं किया जा सकता ।