AI इमेज जनरेटर में ‘एट्रिब्यूशन डिके’: किसी एक तस्वीर का असर क्यों गायब हो सकता है

MIT CSAIL के Zheng Dai और David Gifford के अध्ययन ने diffusion आधारित AI इमेज जनरेटर में एक महत्वपूर्ण सीमा को रेखांकित किया है। शोधकर्ताओं ने इसे ‘एट्रिब्यूशन डिके’ (attribution decay) कहा है। इसका अर्थ है कि मॉडल को जितनी अधिक तस्वीरों पर प्रशिक्षित किया जाता है, किसी एक प्रशिक्षण-तस्वीर का किसी खास आउटपुट पर कारणात्मक प्रभाव उतना ही छोटा होता जाता है। एक स्तर के बाद वह प्रभाव सटीक रूप से हटाने के परीक्षण में दिखाई भी नहीं दे सकता।

इसका सीधा असर उस सवाल पर पड़ता है कि AI से बनी किसी तस्वीर को किसी खास कलाकार, फोटो या प्रशिक्षण-स्रोत से कितनी निश्चितता के साथ जोड़ा जा सकता है। हालांकि, यह अध्ययन AI कंपनियों को कॉपीराइट विवादों से स्वतः मुक्त नहीं करता।

शोधकर्ताओं ने क्या परीक्षण किया?

सिर्फ गणितीय अनुमान लगाने के बजाय, टीम ने ‘diffusion ensemble’ नाम की संरचना तैयार की। इसमें कई छोटे diffusion घटक थे, जिन्हें डेटासेट के अलग-अलग हिस्सों पर प्रशिक्षित किया गया था। यदि किसी खास तस्वीर का प्रभाव जांचना हो, तो उस तस्वीर को हटाकर पूरा मॉडल दोबारा प्रशिक्षित करने के बजाय उन सभी घटकों को बंद किया गया, जिन्होंने वह तस्वीर देखी थी। इससे शोधकर्ताओं को उस स्रोत के बिना एक सटीक counterfactual मॉडल मिल सका, वह भी नए सिरे से प्रशिक्षण और अनुमान पर निर्भर हुए बिना।

इसके बाद इस तरीके की तुलना उसी डेटा पर प्रशिक्षित 24 पारंपरिक diffusion मॉडलों से की गई। मानक गुणवत्ता-मापों के अनुसार दोनों तरीकों से बने आउटपुट broadly comparable यानी लगभग समान गुणवत्ता वाले थे।

परीक्षण 256 तस्वीरों से लेकर 1,60,000 से अधिक तस्वीरों वाले डेटासेट पर किए गए। शोधकर्ताओं ने अलग-अलग स्तरों पर ये चीजें हटाईं:

• एक व्यक्तिगत तस्वीर;
• किसी एक कलाकार की सभी कृतियां; और
• किसी एक व्यक्ति की सभी तस्वीरें।

जब डेटासेट बड़ा हुआ, तो इनमें से किसी एक स्रोत को हटाने पर कई बार जेनरेट किए गए आउटपुट में कोई स्पष्ट या मापने योग्य बदलाव नहीं दिखा। यही किसी एक स्रोत के प्रभाव के लगातार कम होते जाने की घटना एट्रिब्यूशन डिके कहलाती है।

AI कॉपीराइट मुकदमों के लिए इसका क्या अर्थ है?

यह निष्कर्ष उन दावों को जटिल बना सकता है जिनमें कहा जाता है कि Midjourney, OpenAI या Microsoft से जुड़े किसी सिस्टम का खास आउटपुट किसी वादी की एक विशिष्ट तस्वीर या उसके पूरे कलात्मक संग्रह से बना है। यदि उस सामग्री को बिल्कुल हटाने पर संबंधित आउटपुट में कोई बदलाव नहीं आता, तो इस विशेष counterfactual परीक्षण से उस आउटपुट को उसी स्रोत के कारण बताने का आधार कमजोर पड़ सकता है।

लेकिन अध्ययन इन अलग-अलग कानूनी सवालों का उत्तर नहीं देता:

• कंपनी ने प्रशिक्षण डेटा जुटाते समय कृतियों की प्रतिलिपि बनाई या नहीं;
• प्रशिक्षण के लिए कॉपीराइट सामग्री का इस्तेमाल उल्लंघन है या fair use;
• आउटपुट किसी संरक्षित कृति से पर्याप्त रूप से मिलता-जुलता है या नहीं;
• मॉडल को जानबूझकर किसी कलाकार की शैली की नकल करने के लिए prompt या configuration के जरिए निर्देशित किया गया था या नहीं।

इसलिए यह शोध किसी अदालत का फैसला नहीं, बल्कि किसी खास आउटपुट और किसी खास प्रशिक्षण-स्रोत के बीच कारणात्मक संबंध को मापने की कठिनाई पर वैज्ञानिक साक्ष्य है।

क्या इसका मतलब है कि AI मॉडल कॉपी नहीं करते?

नहीं। यह निष्कर्ष ‘फ्री पास’ नहीं है। Diffusion मॉडल कुछ परिस्थितियों में प्रशिक्षण-उदाहरणों को याद कर सकते हैं या उन्हें दोहरा सकते हैं। एट्रिब्यूशन डिके का दावा सिर्फ इतना है कि डेटासेट का आकार बढ़ने पर किसी एक स्रोत का अलग-अलग आउटपुट पर प्रभाव अक्सर इतना छोटा हो जाता है कि उसे विश्वसनीय ढंग से मापना कठिन हो जाता है। इसका अर्थ यह नहीं कि कॉपी होना कभी संभव नहीं है।

इसके अलावा, अध्ययन diffusion आधारित इमेज जनरेटर पर केंद्रित है। इसके परिणामों को भाषा मॉडल या अन्य generative architectures पर सीधे लागू नहीं किया जाना चाहिए।

अदालतों को किन अन्य सबूतों की जरूरत पड़ सकती है?

यदि किसी मामले में केवल ‘एक तस्वीर से एक आउटपुट’ वाली causal attribution पर्याप्त न हो, तो अदालतें अन्य प्रकार के साक्ष्यों पर निर्भर कर सकती हैं—जैसे प्रशिक्षण डेटा हासिल करने के रिकॉर्ड, सीधे दृश्य-साम्य के प्रमाण, लक्षित prompts पर मॉडल का व्यवहार, सामग्री की provenance और विशेषज्ञों का विश्लेषण। यह निष्कर्ष अध्ययन में बड़े पैमाने पर व्यक्तिगत स्रोत का प्रभाव निर्धारित करने में सामने आई कठिनाई से निकलता है।

कुल मिलाकर, अध्ययन यह नहीं कहता कि AI-जनित कला में स्रोत या कॉपीराइट की जिम्मेदारी अप्रासंगिक हो गई है। यह सिर्फ बताता है कि बड़े diffusion मॉडलों में किसी एक तस्वीर या कलाकार को किसी एक आउटपुट का निश्चित कारण साबित करना कई मामलों में बेहद कठिन हो सकता है।