AI इमेज जनरेटर में ‘एट्रिब्यूशन डिके’: बड़े डेटासेट के साथ प्रशिक्षण तस्वीरों का असर क्यों धुंधला पड़ता है

MIT CSAIL के Zheng Dai और David Gifford के Nature Communications में प्रकाशित अध्ययन ने diffusion आधारित AI इमेज जनरेटरों में ‘एट्रिब्यूशन डिके’ (attribution decay) नाम की घटना की पहचान की। इसका अर्थ है कि जैसे-जैसे मॉडल को अधिक डेटा पर प्रशिक्षित किया जाता है, किसी एक प्रशिक्षण तस्वीर का किसी खास आउटपुट पर कारणात्मक प्रभाव घटता जाता है—और एक स्तर पर वह प्रभाव पता लगाना मुश्किल हो सकता है।

यह निष्कर्ष इस बात से अलग है कि प्रशिक्षण तस्वीरें मॉडल में कभी इस्तेमाल हुईं या नहीं, मॉडल ने उन्हें याद रखा या नहीं, अथवा वह किसी तस्वीर को कुछ परिस्थितियों में दोहरा सकता है या नहीं। अध्ययन का केंद्र यह सवाल था: अगर किसी खास प्रशिक्षण इकाई को हटा दिया जाए, तो क्या आउटपुट में मापने योग्य बदलाव आता है?

शोधकर्ताओं ने क्या परीक्षण किया?

आमतौर पर किसी एक प्रशिक्षण तस्वीर के प्रभाव का अनुमान लगाने के लिए सांख्यिकीय या मॉडल-आधारित approximation इस्तेमाल किए जाते हैं। Dai और Gifford ने इसके बजाय एक diffusion ensemble तैयार किया। इसमें स्वतंत्र रूप से प्रशिक्षित मॉडल घटक थे और हर घटक को प्रशिक्षण डेटासेट का नियंत्रित हिस्सा दिया गया।

इस व्यवस्था से वे एक सटीक counterfactual बना सके—यानी, “अगर यह तस्वीर प्रशिक्षण में शामिल नहीं होती, तो मॉडल का आउटपुट कैसा होता?” किसी एक तस्वीर को दोबारा शामिल किए बिना पूरा मॉडल retrain करने के बजाय, शोधकर्ताओं ने उस तस्वीर को देख चुके सभी ensemble घटकों को निष्क्रिय कर दिया।

उन्होंने इस ensemble की तुलना उसी डेटा पर प्रशिक्षित 24 पारंपरिक diffusion मॉडलों से की। रिपोर्ट के अनुसार, दोनों तरह के मॉडलों के सामान्य image-quality माप लगभग तुलनीय रहे।

कुल मिलाकर सात सार्वजनिक इमेज संग्रहों पर 24 ensembles का परीक्षण किया गया। इन डेटासेट में 256 तस्वीरों से लेकर 160,000 से अधिक तस्वीरें थीं। हर परीक्षण में शोधकर्ताओं ने मूल आउटपुट के साथ एक तरह का ‘counterfactual universe’ बनाया—ऐसे संस्करण, जिनमें संभावित प्रशिक्षण इकाइयों को एक-एक करके हटाया गया था।

मूल आउटपुट से किसी हटाई गई इकाई के कारण आया सबसे बड़ा अंतर ‘counterfactual radius’ कहलाया। यह उस इकाई के अधिकतम कारणात्मक प्रभाव का माप था।

‘एट्रिब्यूशन डिके’ से क्या पता चला?

डेटासेट का आकार बढ़ने पर counterfactual radius घटता गया। यानी किसी एक तस्वीर को हटाने से जनरेटेड इमेज में बहुत कम या कोई स्पष्ट बदलाव नहीं आया।

बड़े पैमाने पर यही बात किसी एक तस्वीर से आगे भी लागू हो सकती है। उदाहरण के लिए, किसी कलाकार की सभी तस्वीरें हटाने पर भी या किसी खास व्यक्ति को दिखाने वाली सभी तस्वीरें हटाने पर भी, कुछ परीक्षणों में जनरेटेड सैंपल में उल्लेखनीय बदलाव नहीं आया।

इसका सीधा अर्थ यह है कि अध्ययन के इस्तेमाल किए गए deletion test में ऐसे प्रशिक्षण डेटा को उस आउटपुट के लिए कारणात्मक रूप से जिम्मेदार नहीं ठहराया जा सकता, अगर उसे हटाने पर आउटपुट नहीं बदलता। लेकिन यह non-attribution का निष्कर्ष है, ‘डेटा का कोई प्रभाव कभी था ही नहीं’ का व्यापक प्रमाण नहीं।

कॉपीराइट विवादों पर संभावित असर

यह निष्कर्ष AI इमेज कंपनियों—जैसे Midjourney, OpenAI या Microsoft—के खिलाफ कॉपीराइट दावों की एक खास दलील को कठिन बना सकता है। यदि दावा यह हो कि किसी विशेष कलाकार की रचनाओं ने किसी विवादित आउटपुट को सीधे जन्म दिया, तो वादी के लिए कारणात्मक योगदान साबित करना मुश्किल हो सकता है, खासकर तब जब कलाकार का पूरा corpus हटाने पर भी आउटपुट लगभग अपरिवर्तित रहे।

फिर भी अध्ययन किसी मुकदमे का फैसला नहीं करता और न ही कोई कानूनी नियम स्थापित करता है। कॉपीराइट मामलों में प्रशिक्षण के दौरान अनधिकृत प्रतिलिपि, किसी खास आउटपुट और संरक्षित रचना के बीच substantial similarity, मॉडल की पहुंच, बाजार पर संभावित नुकसान, अनुबंध की शर्तें और अन्य प्रमाण भी महत्वपूर्ण हो सकते हैं।

अध्ययन की अहम सीमाएं

यह ‘मेमोराइजेशन नहीं हुआ’ का निष्कर्ष नहीं है

किसी आउटपुट को deletion test में किसी एक प्रशिक्षण तस्वीर से attributable न पाया जाना यह साबित नहीं करता कि मॉडल ने सामग्री को याद नहीं रखा। मॉडल कुछ prompts या sampling परिस्थितियों में किसी रचना को दोहरा सकता है, या किसी संरक्षित काम से पर्याप्त समानता वाला आउटपुट दे सकता है। शोध ने प्रशिक्षण इकाइयों को हटाने पर आउटपुट की causal sensitivity मापी, मेमोराइजेशन या उल्लंघन के हर संभावित रूप को नहीं।

यह LLM पर लागू सिद्ध निष्कर्ष नहीं है

अध्ययन diffusion मॉडलों पर केंद्रित है, जो इमेज और अन्य audiovisual सामग्री जनरेट करते हैं। इसकी ensemble और ablation तकनीक तथा डेटा-स्केलिंग से जुड़ा अनुभवजन्य निष्कर्ष transformer आधारित large language models पर अपने-आप सिद्ध नहीं हो जाता।

अन्य प्रमाणों की जरूरत बनी रहेगी

अदालतों और तकनीकी जांचकर्ताओं को अब भी prompt-based reproduction tests, similarity और provenance analysis, प्रशिक्षण डेटा व सिस्टम रिकॉर्ड, model audits और लागू कानूनी विश्लेषण की जरूरत होगी।

कुल मिलाकर, ‘एट्रिब्यूशन डिके’ यह बताता है कि बड़े डेटासेट पर प्रशिक्षित मॉडल के किसी एक आउटपुट के पीछे किसी एक स्रोत की सीधी, एकल कहानी अक्सर कमजोर पड़ सकती है। यह यह नहीं दिखाता कि कॉपी करना साबित ही नहीं किया जा सकता या प्रशिक्षण डेटा के इस्तेमाल से जुड़े सभी दावे समाप्त हो जाते हैं।