इस ढांचे से शोधकर्ता एक सटीक counterfactual सवाल पूछ सके: अगर इस तस्वीर ने प्रशिक्षण को प्रभावित न किया होता, तो मॉडल क्या बनाता?

एक बड़े मॉडल को शुरू से retrain करने के बजाय, शोधकर्ता उन घटकों को निष्क्रिय कर सकते थे जिन्होंने चुनी गई तस्वीर देखी थी। इसके बाद वे नए आउटपुट की तुलना मूल आउटपुट से करते थे। यानी यह केवल प्रभाव का अनुमान नहीं था, बल्कि तस्वीर के प्रभाव को नियंत्रित तरीके से हटाने का परीक्षण था।

टीम ने सात सार्वजनिक इमेज कलेक्शन पर 24 diffusion ensembles का मूल्यांकन किया। इन डेटा सेट में 256 तस्वीरों से लेकर 160,000 से अधिक तस्वीरें शामिल थीं। इससे शोधकर्ताओं को यह देखने का मौका मिला कि प्रशिक्षण डेटा बढ़ने पर attribution किस तरह बदलता है। उन्होंने मूल इमेज और उन counterfactual आउटपुट की तुलना की, जो चुनी गई प्रशिक्षण इकाइयों को हटाने के बाद बनाए गए थे।

मूल आउटपुट और counterfactual आउटपुट के बीच दर्ज सबसे बड़ा अंतर counterfactual radius कहलाया। यह इस बात का माप था कि किसी एक हटाई गई प्रशिक्षण इकाई से परिणाम कितना बदल सकता है।

‘Attribution decay’ का मतलब क्या है?

अध्ययन में डेटा सेट का आकार बढ़ने के साथ counterfactual radius घटता गया। आसान भाषा में कहें तो, एक तस्वीर हटाने पर उत्पन्न परिणाम मूल परिणाम से इतना मिलता-जुलता रहने लगा कि दोनों के बीच अंतर मापना कठिन हो गया।

यह नतीजा पहली नजर में उलटा लग सकता है। अधिक प्रशिक्षण डेटा का मतलब यह हो सकता है कि किसी एक तस्वीर का योगदान और अधिक स्पष्ट होगा, लेकिन अध्ययन के अनुसार बड़े डेटा सेट में मॉडल कई स्रोतों से मिलते-जुलते, एक-दूसरे पर overlap करने वाले पैटर्न सीख सकता है। ऐसे में किसी खास आउटपुट को एक ही तस्वीर से जोड़ना कठिन हो जाता है।

पर्याप्त बड़े पैमाने पर यह असर केवल व्यक्तिगत तस्वीरों तक सीमित नहीं रहा। अध्ययन में बताया गया कि किसी एक कलाकार की सभी तस्वीरें, या किसी खास व्यक्ति को दिखाने वाली सभी तस्वीरें हटाने पर भी परीक्षण की गई परिस्थितियों में उत्पन्न नमूना प्रभावी रूप से अपरिवर्तित रह सकता था।

इसी वजह से शोधकर्ता इसे केवल ‘स्रोत पहचानने की तकनीक की विफलता’ नहीं मानते। समस्या यह भी हो सकती है कि एक स्रोत और एक आउटपुट के बीच कारणात्मक संबंध खुद इतना बिखर जाए कि उसे अलग करके पहचानना संभव न रहे।

कॉपीराइट मुकदमों पर इसका क्या असर पड़ सकता है?

Attribution decay कॉपीराइट दावों की एक खास दलील को साबित करना कठिन बना सकता है—यानी यह दिखाना कि किसी विवादित आउटपुट का सीधा कारण किसी नामित कलाकार की रचनाएं या उन्हीं रचनाओं की प्रतियां थीं। अगर कलाकार की पूरी रचनाओं को प्रशिक्षण डेटा से हटाने पर भी उस खास आउटपुट में महत्वपूर्ण बदलाव न आए, तो इस causal test के तहत यह कहना कठिन होगा कि वह पूरा संग्रह उस तस्वीर को बनाने के लिए व्यक्तिगत रूप से जरूरी था।

यह उन विवादों के लिए महत्वपूर्ण हो सकता है जिनमें Midjourney, OpenAI या Microsoft जैसी कंपनियों के इमेज जनरेटर पर कलाकारों की शैली की नकल करने के आरोप लगाए जाते हैं। बड़े पैमाने पर प्रशिक्षण किसी आउटपुट को एक ही कलाकार या एक ही काम का सीधा परिणाम बताने वाली सरल कहानी को कमजोर कर सकता है। इसी कारण इस अध्ययन को generative image systems से जुड़े intellectual-property मामलों के लिए संभावित रूप से जटिल माना जा रहा है।

लेकिन अध्ययन यह तय नहीं करता कि किसी कंपनी ने कॉपीराइट का उल्लंघन किया है या नहीं। यह अपने-आप में कोई कानूनी बचाव भी नहीं बनाता। कॉपीराइट विवादों में कई अलग-अलग सवाल हो सकते हैं, जैसे:

• प्रशिक्षण के दौरान संरक्षित रचनाओं की अनधिकृत प्रतियां बनाई गई थीं या नहीं;
• कोई आउटपुट किसी संरक्षित रचना से पर्याप्त रूप से मिलता-जुलता है या नहीं;
• मॉडल खास prompts पर किसी रचना को दोहरा सकता है या नहीं;
• प्रशिक्षण डेटा तक पहुंच और उसकी provenance क्या थी;
• बाजार, नुकसान या अनुबंध से जुड़े दायित्व क्या हैं।

इसलिए तकनीकी अर्थ में ‘किसी स्रोत से attributable नहीं’ का मतलब कानूनी अर्थ में ‘कॉपी नहीं किया गया’ नहीं होता।

यह memorization को खारिज करने वाला निष्कर्ष क्यों नहीं है?

यह प्रयोग प्रशिक्षण इकाइयों को हटाने पर मॉडल की संवेदनशीलता जांचता है। यह उन सभी तरीकों की जांच नहीं करता जिनसे कोई मॉडल जानकारी को बनाए रख सकता है या किसी रचना को दोहरा सकता है।

किसी ensemble के deletion test में मॉडल किसी एक तस्वीर पर बहुत कम निर्भर दिखाई दे सकता है, फिर भी कुछ prompts या sampling conditions में वही मॉडल किसी खास रचना को दोहरा सके। इसी तरह, किसी आउटपुट में संरक्षित रचना से पर्याप्त समानता हो सकती है, भले ही कोई एक प्रशिक्षण तस्वीर उस आउटपुट के लिए कारणात्मक रूप से अनिवार्य साबित न हो।

इन तीन दावों को अलग-अलग समझना जरूरी है:

• इस तस्वीर ने इस आउटपुट को प्रभावित किया: तस्वीर का प्रभाव हटाने पर मापने योग्य बदलाव मिलता है।
• मॉडल ने तस्वीर देखी या उसके कुछ हिस्से याद रखे: मॉडल उस तस्वीर के संपर्क में आया था या उसने उसके पहलुओं को memorise किया हो सकता है।
• आउटपुट ने संरक्षित रचना की नकल की: यह कानूनी और तकनीकी निष्कर्ष है, जिसके लिए अतिरिक्त सबूत चाहिए।

Attribution decay सीधे तौर पर पहले सवाल को संबोधित करता है। यह दूसरे या तीसरे सवाल का अंतिम जवाब नहीं देता।

क्या यही निष्कर्ष बड़े language models पर भी लागू होता है?

अभी नहीं। अध्ययन image generation और संबंधित audiovisual media के लिए इस्तेमाल होने वाले diffusion-based generative models पर केंद्रित है। इसकी ensemble architecture और देखे गए scaling pattern को transformer-based large language models (LLMs) पर स्वतः लागू नहीं किया जा सकता।

Language models की architecture, training प्रक्रिया, token representations और output behavior अलग होते हैं। यह अध्ययन LLM attribution पर भविष्य के प्रयोगों के लिए एक दिशा जरूर सुझा सकता है, लेकिन इससे यह साबित नहीं होता कि LLMs में भी attribution decay का यही रूप मौजूद है।

जांचकर्ताओं और अदालतों को आगे क्या देखना होगा?

जब सवाल यह हो कि किसी AI system ने किसी रचना की नकल की है या नहीं, तो attribution decay केवल एक सबूत है। अदालतों और तकनीकी जांचकर्ताओं को अब भी इन पहलुओं पर विचार करना पड़ सकता है:

• नियंत्रित prompts पर system किसी खास रचना को दोहरा सकता है या नहीं;
• आउटपुट और कथित रूप से कॉपी की गई रचना के बीच दृश्य समानता;
• प्रशिक्षण डेटा, उसकी provenance और उस तक पहुंच के रिकॉर्ड;
• model audits और system documentation;
• आउटपुट में केवल व्यापक शैली है या किसी रचना की पहचान योग्य संरक्षित अभिव्यक्ति;
• संबंधित विवाद पर लागू कानूनी मानक।

इस अध्ययन का सबसे महत्वपूर्ण सबक यह नहीं है कि AI अपने स्रोतों को ‘भूल’ जाता है। अधिक सटीक निष्कर्ष यह है कि diffusion डेटा सेट बड़े होने पर किसी एक प्रशिक्षण उदाहरण का किसी खास आउटपुट में कारणात्मक योगदान इतना बिखर सकता है कि उसे अलग से पहचानना मुश्किल हो जाए। इससे source attribution कठिन होता है, लेकिन memorization, reproduction या copyright analysis असंभव नहीं बनते।

इस ढांचे से शोधकर्ता एक सटीक counterfactual सवाल पूछ सके: अगर इस तस्वीर ने प्रशिक्षण को प्रभावित न किया होता, तो मॉडल क्या बनाता?

एक बड़े मॉडल को शुरू से retrain करने के बजाय, शोधकर्ता उन घटकों को निष्क्रिय कर सकते थे जिन्होंने चुनी गई तस्वीर देखी थी। इसके बाद वे नए आउटपुट की तुलना मूल आउटपुट से करते थे। यानी यह केवल प्रभाव का अनुमान नहीं था, बल्कि तस्वीर के प्रभाव को नियंत्रित तरीके से हटाने का परीक्षण था।

टीम ने सात सार्वजनिक इमेज कलेक्शन पर 24 diffusion ensembles का मूल्यांकन किया। इन डेटा सेट में 256 तस्वीरों से लेकर 160,000 से अधिक तस्वीरें शामिल थीं। इससे शोधकर्ताओं को यह देखने का मौका मिला कि प्रशिक्षण डेटा बढ़ने पर attribution किस तरह बदलता है। उन्होंने मूल इमेज और उन counterfactual आउटपुट की तुलना की, जो चुनी गई प्रशिक्षण इकाइयों को हटाने के बाद बनाए गए थे।

मूल आउटपुट और counterfactual आउटपुट के बीच दर्ज सबसे बड़ा अंतर counterfactual radius कहलाया। यह इस बात का माप था कि किसी एक हटाई गई प्रशिक्षण इकाई से परिणाम कितना बदल सकता है।

‘Attribution decay’ का मतलब क्या है?

अध्ययन में डेटा सेट का आकार बढ़ने के साथ counterfactual radius घटता गया। आसान भाषा में कहें तो, एक तस्वीर हटाने पर उत्पन्न परिणाम मूल परिणाम से इतना मिलता-जुलता रहने लगा कि दोनों के बीच अंतर मापना कठिन हो गया।

यह नतीजा पहली नजर में उलटा लग सकता है। अधिक प्रशिक्षण डेटा का मतलब यह हो सकता है कि किसी एक तस्वीर का योगदान और अधिक स्पष्ट होगा, लेकिन अध्ययन के अनुसार बड़े डेटा सेट में मॉडल कई स्रोतों से मिलते-जुलते, एक-दूसरे पर overlap करने वाले पैटर्न सीख सकता है। ऐसे में किसी खास आउटपुट को एक ही तस्वीर से जोड़ना कठिन हो जाता है।

पर्याप्त बड़े पैमाने पर यह असर केवल व्यक्तिगत तस्वीरों तक सीमित नहीं रहा। अध्ययन में बताया गया कि किसी एक कलाकार की सभी तस्वीरें, या किसी खास व्यक्ति को दिखाने वाली सभी तस्वीरें हटाने पर भी परीक्षण की गई परिस्थितियों में उत्पन्न नमूना प्रभावी रूप से अपरिवर्तित रह सकता था।

इसी वजह से शोधकर्ता इसे केवल ‘स्रोत पहचानने की तकनीक की विफलता’ नहीं मानते। समस्या यह भी हो सकती है कि एक स्रोत और एक आउटपुट के बीच कारणात्मक संबंध खुद इतना बिखर जाए कि उसे अलग करके पहचानना संभव न रहे।

कॉपीराइट मुकदमों पर इसका क्या असर पड़ सकता है?

Attribution decay कॉपीराइट दावों की एक खास दलील को साबित करना कठिन बना सकता है—यानी यह दिखाना कि किसी विवादित आउटपुट का सीधा कारण किसी नामित कलाकार की रचनाएं या उन्हीं रचनाओं की प्रतियां थीं। अगर कलाकार की पूरी रचनाओं को प्रशिक्षण डेटा से हटाने पर भी उस खास आउटपुट में महत्वपूर्ण बदलाव न आए, तो इस causal test के तहत यह कहना कठिन होगा कि वह पूरा संग्रह उस तस्वीर को बनाने के लिए व्यक्तिगत रूप से जरूरी था।

यह उन विवादों के लिए महत्वपूर्ण हो सकता है जिनमें Midjourney, OpenAI या Microsoft जैसी कंपनियों के इमेज जनरेटर पर कलाकारों की शैली की नकल करने के आरोप लगाए जाते हैं। बड़े पैमाने पर प्रशिक्षण किसी आउटपुट को एक ही कलाकार या एक ही काम का सीधा परिणाम बताने वाली सरल कहानी को कमजोर कर सकता है। इसी कारण इस अध्ययन को generative image systems से जुड़े intellectual-property मामलों के लिए संभावित रूप से जटिल माना जा रहा है।

लेकिन अध्ययन यह तय नहीं करता कि किसी कंपनी ने कॉपीराइट का उल्लंघन किया है या नहीं। यह अपने-आप में कोई कानूनी बचाव भी नहीं बनाता। कॉपीराइट विवादों में कई अलग-अलग सवाल हो सकते हैं, जैसे:

• प्रशिक्षण के दौरान संरक्षित रचनाओं की अनधिकृत प्रतियां बनाई गई थीं या नहीं;
• कोई आउटपुट किसी संरक्षित रचना से पर्याप्त रूप से मिलता-जुलता है या नहीं;
• मॉडल खास prompts पर किसी रचना को दोहरा सकता है या नहीं;
• प्रशिक्षण डेटा तक पहुंच और उसकी provenance क्या थी;
• बाजार, नुकसान या अनुबंध से जुड़े दायित्व क्या हैं।

इसलिए तकनीकी अर्थ में ‘किसी स्रोत से attributable नहीं’ का मतलब कानूनी अर्थ में ‘कॉपी नहीं किया गया’ नहीं होता।

यह memorization को खारिज करने वाला निष्कर्ष क्यों नहीं है?

यह प्रयोग प्रशिक्षण इकाइयों को हटाने पर मॉडल की संवेदनशीलता जांचता है। यह उन सभी तरीकों की जांच नहीं करता जिनसे कोई मॉडल जानकारी को बनाए रख सकता है या किसी रचना को दोहरा सकता है।

किसी ensemble के deletion test में मॉडल किसी एक तस्वीर पर बहुत कम निर्भर दिखाई दे सकता है, फिर भी कुछ prompts या sampling conditions में वही मॉडल किसी खास रचना को दोहरा सके। इसी तरह, किसी आउटपुट में संरक्षित रचना से पर्याप्त समानता हो सकती है, भले ही कोई एक प्रशिक्षण तस्वीर उस आउटपुट के लिए कारणात्मक रूप से अनिवार्य साबित न हो।

इन तीन दावों को अलग-अलग समझना जरूरी है:

• इस तस्वीर ने इस आउटपुट को प्रभावित किया: तस्वीर का प्रभाव हटाने पर मापने योग्य बदलाव मिलता है।
• मॉडल ने तस्वीर देखी या उसके कुछ हिस्से याद रखे: मॉडल उस तस्वीर के संपर्क में आया था या उसने उसके पहलुओं को memorise किया हो सकता है।
• आउटपुट ने संरक्षित रचना की नकल की: यह कानूनी और तकनीकी निष्कर्ष है, जिसके लिए अतिरिक्त सबूत चाहिए।

Attribution decay सीधे तौर पर पहले सवाल को संबोधित करता है। यह दूसरे या तीसरे सवाल का अंतिम जवाब नहीं देता।

क्या यही निष्कर्ष बड़े language models पर भी लागू होता है?

अभी नहीं। अध्ययन image generation और संबंधित audiovisual media के लिए इस्तेमाल होने वाले diffusion-based generative models पर केंद्रित है। इसकी ensemble architecture और देखे गए scaling pattern को transformer-based large language models (LLMs) पर स्वतः लागू नहीं किया जा सकता।

Language models की architecture, training प्रक्रिया, token representations और output behavior अलग होते हैं। यह अध्ययन LLM attribution पर भविष्य के प्रयोगों के लिए एक दिशा जरूर सुझा सकता है, लेकिन इससे यह साबित नहीं होता कि LLMs में भी attribution decay का यही रूप मौजूद है।

जांचकर्ताओं और अदालतों को आगे क्या देखना होगा?

जब सवाल यह हो कि किसी AI system ने किसी रचना की नकल की है या नहीं, तो attribution decay केवल एक सबूत है। अदालतों और तकनीकी जांचकर्ताओं को अब भी इन पहलुओं पर विचार करना पड़ सकता है:

• नियंत्रित prompts पर system किसी खास रचना को दोहरा सकता है या नहीं;
• आउटपुट और कथित रूप से कॉपी की गई रचना के बीच दृश्य समानता;
• प्रशिक्षण डेटा, उसकी provenance और उस तक पहुंच के रिकॉर्ड;
• model audits और system documentation;
• आउटपुट में केवल व्यापक शैली है या किसी रचना की पहचान योग्य संरक्षित अभिव्यक्ति;
• संबंधित विवाद पर लागू कानूनी मानक।

इस अध्ययन का सबसे महत्वपूर्ण सबक यह नहीं है कि AI अपने स्रोतों को ‘भूल’ जाता है। अधिक सटीक निष्कर्ष यह है कि diffusion डेटा सेट बड़े होने पर किसी एक प्रशिक्षण उदाहरण का किसी खास आउटपुट में कारणात्मक योगदान इतना बिखर सकता है कि उसे अलग से पहचानना मुश्किल हो जाए। इससे source attribution कठिन होता है, लेकिन memorization, reproduction या copyright analysis असंभव नहीं बनते।