कैसे बड़ी टेक कंपनियों के AI मॉडल बड़े पैमाने पर प्राइवेसी के हनन पर बने हैं: एमनेस्टी की रिपोर्ट

एमनेस्टी इस ऑटोमेटेड डेटा हार्वेस्टिंग की तुलना राज्य-स्तरीय सामूहिक निगरानी प्रणालियों से करता है, और तर्क देता है कि यह विकास के पहले चरण से ही प्राइवेसी के अधिकार का उल्लंघन है । रिपोर्ट अपने शोध में GPT-3, Gemini, Llama, और DeepSeek, Midjourney, Stable Diffusion जैसे कई प्रमुख सार्वजनिक रूप से उपलब्ध मॉडलों और टूल्स का नाम लेती है ।

नुकसान की तीन श्रेणियां

जोखिम-आधारित नियामक दृष्टिकोण के बजाय प्रतिबंध की अपनी मांग का समर्थन करने के लिए, रिपोर्ट तीन स्पष्ट लेकिन आपस में जुड़ी हुई नुकसान की श्रेणियों को उजागर करती है।

1. डिज़ाइन से बड़े पैमाने पर प्राइवेसी का हनन

पहला और बुनियादी नुकसान स्वयं प्राइवेसी का उल्लंघन है। रिपोर्ट में विस्तार से बताया गया है कि कैसे अरबों सार्वजनिक पोस्ट, तस्वीरों और बातचीत से बने डेटासेट बिना अनुमति के संकलित किए जाते हैं। यह कोई लीक या डेटा ब्रीच नहीं है; बल्कि AI बनाने का जानबूझकर अपनाया गया संरचनात्मक तरीका है। एमनेस्टी का तर्क है कि "प्राइवेसी अधिकारों का यह दुरुपयोग" शुरुआती बिंदु है, जो पूरी विकास प्रक्रिया को मानवाधिकार मानकों के तहत अवैध बना देता है ।

2. रूढ़िवादिता, पूर्वाग्रह और भेदभाव को बढ़ावा देना

नुकसान की दूसरी श्रेणी सीधे डेटा से उत्पन्न होती है। चूंकि प्रशिक्षण सामग्री खुले वेब से अंधाधुंध तरीके से स्क्रैप की जाती है, यह "वास्तविक दुनिया के पूर्वाग्रहों से प्रदूषित" होती है। एमनेस्टी चेतावनी देता है कि ये पूर्वाग्रह AI द्वारा बेअसर नहीं होते; बल्कि, वे "नस्लीय, लैंगिक और सांस्कृतिक आधार पर मॉडल के आउटपुट में बढ़ जाते हैं" । रिपोर्ट ऐतिहासिक रूप से हाशिए पर पड़े समुदायों के लिए विशेष चिंता व्यक्त करती है, जो इस प्रणालीगत भेदभाव का खामियाजा भुगतते हैं, क्योंकि जहरीली रूढ़िवादिता और पूर्वाग्रह से भरे संबंध स्वचालित और बड़े पैमाने पर फैलते हैं ।

3. प्रतिकूल पर्यावरणीय प्रभाव

नुकसान की अंतिम श्रेणी डिजिटल से हटकर भौतिक दुनिया पर केंद्रित है। रिपोर्ट इन सिस्टमों के निर्माण और संचालन की भारी पारिस्थितिक लागत का दस्तावेजीकरण करती है, और "आवश्यक विशाल डेटा सेंटरों और ऊर्जा खपत" की ओर इशारा करती है । रिपोर्ट का तर्क है कि यह पर्यावरणीय प्रभाव, अनियंत्रित AI रेस का एक अतिरिक्त और अक्सर अनदेखा किया जाने वाला मानवाधिकार परिणाम है।

सिर्फ नियमन नहीं, पूर्ण प्रतिबंध की मांग

एमनेस्टी इंटरनेशनल का निष्कर्ष स्पष्ट और कठोर है। यह पाता है कि स्टैंडअलोन जनरेटिव AI सिस्टम, जो इन अवैध वेब-स्क्रैपिंग पाइपलाइनों पर निर्भर हैं, "अंतर्राष्ट्रीय मानवाधिकार कानून (IHRL) के साथ असंगत" हैं । संगठन का तर्क है कि मौजूदा नियामक मॉडल, जैसे कि EU के AI अधिनियम का जोखिम-आधारित ढांचा, अपर्याप्त हैं । इसके बजाय, यह सरकारों से इन तरीकों से बने सिस्टमों पर "पूर्ण प्रतिबंध" लगाकर हस्तक्षेप करने का आह्वान करता है, और पूरी प्रथा को मानवाधिकार संकट के रूप में प्रस्तुत करता है जिसे केवल प्रबंधित नहीं किया जा सकता ।