AI मॉडल के ‘वेट्स’ पर Ro Khanna की चिंता: कंपनियों से सुरक्षा का हिसाब क्यों मांगा गया?

AI मॉडल की नकल करना और उसके अंदरूनी हिस्से पर कब्जा पा लेना एक बात नहीं है। इसी फर्क को लेकर अमेरिकी सांसद Ro Khanna ने OpenAI, Anthropic, Google, Meta और xAI से पूछा कि क्या उन्हें चीन या किसी अन्य विरोधी पक्ष की ओर से उनके मॉडल के वेट्स तक गैरकानूनी पहुंच बनाने की कोशिशों का पता चला है—और वे ऐसे प्रयासों से बचाव कैसे करते हैं। वेट्स से आशय उन सीखे हुए गणितीय पैरामीटरों से है जो मॉडल के काम करने का आधार बनते हैं। Khanna ने अमेरिकी कंपनियों से चीन की ओर से संवेदनशील AI तकनीक तक पहुंच की जानकारी मांगी है; उन्होंने मॉडल-वेट्स की सुरक्षा पर भी सवाल उठाए हैं।3

वेट्स की चोरी और डिस्टिलेशन में फर्क

वेट्स की चोरी का मतलब है मॉडल के मूल पैरामीटर हासिल कर लेना। इसके उलट, डिस्टिलेशन में किसी मौजूदा मॉडल से जवाब लेकर उन जवाबों के आधार पर एक अलग मॉडल को प्रशिक्षित किया जाता है। इससे नया मॉडल कुछ क्षमताओं की नकल कर सकता है, लेकिन उसे मूल मॉडल के वेट्स नहीं मिल जाते।10

OpenAI और Anthropic ने चीनी कंपनियों से जुड़े डिस्टिलेशन के मामले बताए हैं। हालांकि, उपलब्ध रिपोर्टिंग में मॉडल-वेट्स की चोरी के बहुत कम ज्ञात मामले हैं। इसलिए डिस्टिलेशन की रिपोर्ट को इस बात का सबूत नहीं माना जा सकता कि OpenAI या Anthropic के वेट्स चोरी हुए हैं।10 उपलब्ध जानकारी यह भी साबित नहीं करती कि सवाल में शामिल किसी कंपनी के वेट्स चीन ने सफलतापूर्वक चुराए हैं।310

इसे राष्ट्रीय सुरक्षा का सवाल क्यों माना जा रहा है?

अगर किसी विरोधी पक्ष को किसी शक्तिशाली मॉडल के असली वेट्स मिल जाएं, तो उसे मॉडल पर उसके डेवलपर की सेवा के जरिए मिलने वाली सीमित पहुंच से कहीं अधिक सीधा नियंत्रण मिल सकता है। इससे मॉडल का इस्तेमाल कैसे और कहां हो रहा है, इस पर कंपनी की निगरानी कमजोर पड़ सकती है। Khanna ने पहले भी डिस्टिलेशन और वेट्स को सुरक्षित रखने की चुनौती को अलग-अलग मुद्दों के रूप में उठाया था।5

स्वैच्छिक नियम या सरकारी निगरानी?

राष्ट्रपति Donald Trump का प्रशासन AI कंपनियों के स्वैच्छिक सुरक्षा उपायों और उद्योग की अपनी जवाबदेही पर जोर देता रहा है। व्हाइट हाउस और प्रमुख कंपनियों की एक स्वैच्छिक पहल में आंतरिक नियंत्रण और स्वतंत्र ऑडिट शामिल हैं।9 Reuters की रिपोर्ट के मुताबिक, प्रशासन ने स्वैच्छिक जांच व्यवस्था के तहत ओपन-वेट मॉडल का सुरक्षा परीक्षण न करने की बात भी कही थी।

Khanna इससे आगे जाकर कंपनियों के लिए अनिवार्य ऑडिट और मजबूत सरकारी निगरानी की वकालत करते हैं। वे अमेरिका और चीन के बीच ऐसा बाध्यकारी, जांचा-परखा AI-सुरक्षा समझौता भी चाहते हैं जिसमें निगरानी और सत्यापन के तरीके शामिल हों।25

फिलहाल, कंपनियों के सुरक्षा उपायों का पूरा विवरण या किसी ऐसी सेंधमारी की जानकारी जो सार्वजनिक नहीं हुई है, उपलब्ध स्रोतों से स्थापित नहीं होती।