MIT का अध्ययन: बड़े AI मॉडल में तस्वीरों के स्रोत का पता लगाना क्यों मुश्किल हो रहा है

इसका अर्थ यह नहीं है कि संबंधित इमेज ने मॉडल की ट्रेनिंग में कोई भूमिका ही नहीं निभाई। इसका सीमित अर्थ यह है कि किसी खास आउटपुट के लिए, अध्ययन में इस्तेमाल किए गए removal test के तहत, उस इमेज का व्यक्तिगत causal contribution इतना छोटा हो सकता है कि उसे मापा न जा सके।

शोधकर्ताओं ने ‘diffusion ensemble’ कैसे बनाया?

इस सवाल की सीधे जांच करना कठिन है। सामान्य तरीका यह होगा कि किसी स्रोत इमेज को हटाकर मॉडल को फिर से प्रशिक्षित किया जाए और नए आउटपुट की तुलना मूल आउटपुट से की जाए। हर इमेज, कलाकार या व्यक्ति के लिए ऐसा करना बेहद महंगा होगा। ऊपर से, अनुमान आधारित तरीकों से यह भी निश्चित नहीं होता कि डेटा हटाने के सभी downstream effects समाप्त हुए या नहीं।

Dai और Gifford ने इसके बजाय diffusion ensemble बनाया। इसमें कई छोटे diffusion components होते हैं, जिन्हें अलग-अलग लेकिन एक-दूसरे से overlapping डेटा subsets पर प्रशिक्षित किया जाता है। किसी स्रोत के प्रभाव की जांच करने के लिए शोधकर्ता उन सभी components को बंद कर सकते थे, जिन्होंने उस स्रोत को देखा था। इस तरह पूरे सिस्टम को दोबारा प्रशिक्षित किए बिना यह counterfactual आउटपुट बनाया जा सकता था कि स्रोत डेटा मौजूद न होता तो परिणाम कैसा रहता।

शोधकर्ताओं ने इस तरीके की तुलना उसी डेटा पर प्रशिक्षित 24 पारंपरिक diffusion मॉडल से भी की। मानक मापदंडों के अनुसार दोनों तरीकों के आउटपुट की गुणवत्ता broadly comparable बताई गई।

इस आर्किटेक्चर ने शोधकर्ताओं को अपने सेटअप के भीतर एक exact removal test दिया। यदि किसी स्रोत को देखने वाले सभी components बंद करने के बाद भी आउटपुट नहीं बदलता, तो प्रयोग उस स्रोत के कारण उस आउटपुट के बनने का कोई मापने योग्य प्रमाण नहीं देता।

कॉपीराइट मुकदमों पर इसका क्या असर पड़ सकता है?

यह निष्कर्ष एक खास तरह के दावे को कठिन बना सकता है: कि किसी AI सिस्टम से बनी एक विशेष तस्वीर सीधे किसी वादी की एक इमेज या उसके पूरे artistic corpus के कारण बनी, अथवा उससे कॉपी की गई। यदि exact counterfactual test में उस सामग्री को हटाने के बाद भी आउटपुट नहीं बदलता, तो उस परीक्षण के आधार पर आउटपुट को उसी स्रोत से जोड़ने का आधार कमजोर पड़ जाता है।

ऐसे सवाल Midjourney, OpenAI और Microsoft जैसी कंपनियों से जुड़े image-generation services या model developers के विवादों में उठ सकते हैं। हालांकि अध्ययन किसी कंपनी की कानूनी जिम्मेदारी तय नहीं करता। यह केवल बताता है कि individual training data और individual outputs के बीच causal link स्थापित करना कितना कठिन हो सकता है।

कई अलग कानूनी और तथ्यात्मक सवाल अब भी खुले रहेंगे:

• ट्रेनिंग डेटा कैसे हासिल किया गया? अध्ययन यह तय नहीं करता कि कॉपीराइट वाली रचनाओं को इकट्ठा करना या ट्रेनिंग में इस्तेमाल करना कानूनी था या नहीं।
• क्या आउटपुट संरक्षित रचना से substantial similarity रखता है? किसी एक ट्रेनिंग फाइल से causal attribution कठिन होने पर भी दृश्य समानता प्रासंगिक हो सकती है।
• क्या मॉडल ने कोई उदाहरण याद करके दोहराया? कुछ परिस्थितियों में मॉडल ट्रेनिंग सामग्री को याद या पुनरुत्पादित कर सकते हैं। यह साबित करना अलग बात है कि हर आउटपुट किसी एक स्रोत से attributable है।
• क्या सिस्टम को किसी कलाकार की नकल के लिए तैयार किया गया था? Targeted prompts, fine-tuning या मॉडल का अन्य व्यवहार ऐसे प्रमाण दे सकता है, जिन्हें single-image removal test पकड़ नहीं पाता।

व्यावहारिक रूप से अदालतों और जांचकर्ताओं को व्यापक साक्ष्य की जरूरत पड़ सकती है—जैसे डेटा हासिल करने के रिकॉर्ड, provenance information, direct similarity analysis, targeted-prompt testing, मॉडल के व्यवहार से जुड़े प्रमाण और विशेषज्ञों का विश्लेषण। यह निष्कर्ष इस अध्ययन से निकलने वाला evidentiary implication है कि बड़े पैमाने पर one-image-to-one-output attribution अविश्वसनीय हो सकता है; यह शोध द्वारा बनाया गया कोई कानूनी नियम नहीं है।

यह AI डेवलपर्स के लिए ‘क्लीन चिट’ क्यों नहीं है?

Attribution decay को इस बात का प्रमाण नहीं समझना चाहिए कि diffusion मॉडल कभी कॉपी नहीं करते। अध्ययन का निष्कर्ष यह है कि ट्रेनिंग डेटासेट बढ़ने पर किसी individual source का मापने योग्य प्रभाव नगण्य हो सकता है। कुछ परिस्थितियों में मॉडल अब भी ट्रेनिंग उदाहरणों को याद या पुनरुत्पादित कर सकते हैं।

अध्ययन का दायरा भी सीमित है। इसमें diffusion-based image generators की जांच की गई है, इसलिए इसके परिणामों को language models या अन्य generative architectures पर स्वतः लागू नहीं किया जा सकता।

सबसे सटीक निष्कर्ष सावधानी वाला है: बड़े diffusion सिस्टम में किसी खास स्रोत इमेज या कलाकार के काम को किसी खास आउटपुट से जोड़ना कठिन हो सकता है। इससे किसी विशेष आउटपुट की जिम्मेदारी साबित करने का एक रास्ता कमजोर पड़ सकता है, लेकिन ट्रेनिंग प्रथाओं, कॉपी, imitation और बौद्धिक संपदा अधिकारों से जुड़े व्यापक सवाल अब भी अनसुलझे हैं।