AI इमेज जनरेटर में ‘एट्रिब्यूशन डिके’: बड़े डेटासेट के साथ प्रशिक्षण तस्वीरों का असर क्यों धुंधला पड़ता है
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2] शोधकर्ताओं ने diffusion ensemble बनाया, जिसमें मॉडल के अलग अलग हिस्सों को प्रशिक्षण डेटा के नियंत्रित भाग दिए गए। किसी तस्वीर को हटाने का सटीक c...
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2]
शोधकर्ताओं ने diffusion ensemble बनाया, जिसमें मॉडल के अलग अलग हिस्सों को प्रशिक्षण डेटा के नियंत्रित भाग दिए गए। किसी तस्वीर को हटाने का सटीक counterfactual देखने के लिए उससे प्रभावित हिस्सों को निष्क्रिय किया गया। [2]
सात सार्वजनिक इमेज डेटासेट और 256 से 160,000 से अधिक तस्वीरों तक के आकार पर 24 ensembles का परीक्षण किया गया। [2]
यह निष्कर्ष केवल किसी आउटपुट पर सीधे कारणात्मक प्रभाव से जुड़ा है; इससे यह साबित नहीं होता कि मॉडल ने प्रशिक्षण तस्वीरों को कभी इस्तेमाल, संग्रहीत या दोहराया ही नहीं।
What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusionAI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com
MIT CSAIL के Zheng Dai और David Gifford के Nature Communications में प्रकाशित अध्ययन ने diffusion आधारित AI इमेज जनरेटरों में ‘एट्रिब्यूशन डिके’ (attribution decay) नाम की घटना की पहचान की। इसका अर्थ है कि जैसे-जैसे मॉडल को अधिक डेटा पर प्रशिक्षित किया जाता है, किसी एक प्रशिक्षण तस्वीर का किसी खास आउटपुट पर कारणात्मक प्रभाव घटता जाता है—और एक स्तर पर वह प्रभाव पता लगाना मुश्किल हो सकता है।
यह निष्कर्ष इस बात से अलग है कि प्रशिक्षण तस्वीरें मॉडल में कभी इस्तेमाल हुईं या नहीं, मॉडल ने उन्हें याद रखा या नहीं, अथवा वह किसी तस्वीर को कुछ परिस्थितियों में दोहरा सकता है या नहीं। अध्ययन का केंद्र यह सवाल था: अगर किसी खास प्रशिक्षण इकाई को हटा दिया जाए, तो क्या आउटपुट में मापने योग्य बदलाव आता है?
शोधकर्ताओं ने क्या परीक्षण किया?
आमतौर पर किसी एक प्रशिक्षण तस्वीर के प्रभाव का अनुमान लगाने के लिए सांख्यिकीय या मॉडल-आधारित approximation इस्तेमाल किए जाते हैं। Dai और Gifford ने इसके बजाय एक diffusion ensemble तैयार किया। इसमें स्वतंत्र रूप से प्रशिक्षित मॉडल घटक थे और हर घटक को प्रशिक्षण डेटासेट का नियंत्रित हिस्सा दिया गया।
इस व्यवस्था से वे एक सटीक counterfactual बना सके—यानी, “अगर यह तस्वीर प्रशिक्षण में शामिल नहीं होती, तो मॉडल का आउटपुट कैसा होता?” किसी एक तस्वीर को दोबारा शामिल किए बिना पूरा मॉडल retrain करने के बजाय, शोधकर्ताओं ने उस तस्वीर को देख चुके सभी ensemble घटकों को निष्क्रिय कर दिया।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
"AI इमेज जनरेटर में ‘एट्रिब्यूशन डिके’: बड़े डेटासेट के साथ प्रशिक्षण तस्वीरों का असर क्यों धुंधला पड़ता है" का संक्षिप्त उत्तर क्या है?
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2]
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2] शोधकर्ताओं ने diffusion ensemble बनाया, जिसमें मॉडल के अलग अलग हिस्सों को प्रशिक्षण डेटा के नियंत्रित भाग दिए गए। किसी तस्वीर को हटाने का सटीक counterfactual देखने के लिए उससे प्रभावित हिस्सों को निष्क्रिय किया गया। [2]
मुझे अभ्यास में आगे क्या करना चाहिए?
सात सार्वजनिक इमेज डेटासेट और 256 से 160,000 से अधिक तस्वीरों तक के आकार पर 24 ensembles का परीक्षण किया गया। [2]
AI इमेज जनरेटर में ‘एट्रिब्यूशन डिके’: बड़े डेटासेट के साथ प्रशिक्षण तस्वीरों का असर क्यों धुंधला पड़ता है
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2] शोधकर्ताओं ने diffusion ensemble बनाया, जिसमें मॉडल के अलग अलग हिस्सों को प्रशिक्षण डेटा के नियंत्रित भाग दिए गए। किसी तस्वीर को हटाने का सटीक c...
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2]
शोधकर्ताओं ने diffusion ensemble बनाया, जिसमें मॉडल के अलग अलग हिस्सों को प्रशिक्षण डेटा के नियंत्रित भाग दिए गए। किसी तस्वीर को हटाने का सटीक counterfactual देखने के लिए उससे प्रभावित हिस्सों को निष्क्रिय किया गया। [2]
सात सार्वजनिक इमेज डेटासेट और 256 से 160,000 से अधिक तस्वीरों तक के आकार पर 24 ensembles का परीक्षण किया गया। [2]
यह निष्कर्ष केवल किसी आउटपुट पर सीधे कारणात्मक प्रभाव से जुड़ा है; इससे यह साबित नहीं होता कि मॉडल ने प्रशिक्षण तस्वीरों को कभी इस्तेमाल, संग्रहीत या दोहराया ही नहीं।
What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusionAI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com
MIT CSAIL के Zheng Dai और David Gifford के Nature Communications में प्रकाशित अध्ययन ने diffusion आधारित AI इमेज जनरेटरों में ‘एट्रिब्यूशन डिके’ (attribution decay) नाम की घटना की पहचान की। इसका अर्थ है कि जैसे-जैसे मॉडल को अधिक डेटा पर प्रशिक्षित किया जाता है, किसी एक प्रशिक्षण तस्वीर का किसी खास आउटपुट पर कारणात्मक प्रभाव घटता जाता है—और एक स्तर पर वह प्रभाव पता लगाना मुश्किल हो सकता है।
यह निष्कर्ष इस बात से अलग है कि प्रशिक्षण तस्वीरें मॉडल में कभी इस्तेमाल हुईं या नहीं, मॉडल ने उन्हें याद रखा या नहीं, अथवा वह किसी तस्वीर को कुछ परिस्थितियों में दोहरा सकता है या नहीं। अध्ययन का केंद्र यह सवाल था: अगर किसी खास प्रशिक्षण इकाई को हटा दिया जाए, तो क्या आउटपुट में मापने योग्य बदलाव आता है?
शोधकर्ताओं ने क्या परीक्षण किया?
आमतौर पर किसी एक प्रशिक्षण तस्वीर के प्रभाव का अनुमान लगाने के लिए सांख्यिकीय या मॉडल-आधारित approximation इस्तेमाल किए जाते हैं। Dai और Gifford ने इसके बजाय एक diffusion ensemble तैयार किया। इसमें स्वतंत्र रूप से प्रशिक्षित मॉडल घटक थे और हर घटक को प्रशिक्षण डेटासेट का नियंत्रित हिस्सा दिया गया।
इस व्यवस्था से वे एक सटीक counterfactual बना सके—यानी, “अगर यह तस्वीर प्रशिक्षण में शामिल नहीं होती, तो मॉडल का आउटपुट कैसा होता?” किसी एक तस्वीर को दोबारा शामिल किए बिना पूरा मॉडल retrain करने के बजाय, शोधकर्ताओं ने उस तस्वीर को देख चुके सभी ensemble घटकों को निष्क्रिय कर दिया।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
"AI इमेज जनरेटर में ‘एट्रिब्यूशन डिके’: बड़े डेटासेट के साथ प्रशिक्षण तस्वीरों का असर क्यों धुंधला पड़ता है" का संक्षिप्त उत्तर क्या है?
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2]
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
अध्ययन में ‘एट्रिब्यूशन डिके’ पाया गया: प्रशिक्षण डेटा बढ़ने पर किसी एक तस्वीर का किसी खास AI जनित चित्र पर कारणात्मक प्रभाव इतना घट सकता है कि वह मापना मुश्किल हो जाए। [2] शोधकर्ताओं ने diffusion ensemble बनाया, जिसमें मॉडल के अलग अलग हिस्सों को प्रशिक्षण डेटा के नियंत्रित भाग दिए गए। किसी तस्वीर को हटाने का सटीक counterfactual देखने के लिए उससे प्रभावित हिस्सों को निष्क्रिय किया गया। [2]
मुझे अभ्यास में आगे क्या करना चाहिए?
सात सार्वजनिक इमेज डेटासेट और 256 से 160,000 से अधिक तस्वीरों तक के आकार पर 24 ensembles का परीक्षण किया गया। [2]
उन्होंने इस ensemble की तुलना उसी डेटा पर प्रशिक्षित 24 पारंपरिक diffusion मॉडलों से की। रिपोर्ट के अनुसार, दोनों तरह के मॉडलों के सामान्य image-quality माप लगभग तुलनीय रहे।
कुल मिलाकर सात सार्वजनिक इमेज संग्रहों पर 24 ensembles का परीक्षण किया गया। इन डेटासेट में 256 तस्वीरों से लेकर 160,000 से अधिक तस्वीरें थीं। हर परीक्षण में शोधकर्ताओं ने मूल आउटपुट के साथ एक तरह का ‘counterfactual universe’ बनाया—ऐसे संस्करण, जिनमें संभावित प्रशिक्षण इकाइयों को एक-एक करके हटाया गया था।
मूल आउटपुट से किसी हटाई गई इकाई के कारण आया सबसे बड़ा अंतर ‘counterfactual radius’ कहलाया। यह उस इकाई के अधिकतम कारणात्मक प्रभाव का माप था।
‘एट्रिब्यूशन डिके’ से क्या पता चला?
डेटासेट का आकार बढ़ने पर counterfactual radius घटता गया। यानी किसी एक तस्वीर को हटाने से जनरेटेड इमेज में बहुत कम या कोई स्पष्ट बदलाव नहीं आया।
बड़े पैमाने पर यही बात किसी एक तस्वीर से आगे भी लागू हो सकती है। उदाहरण के लिए, किसी कलाकार की सभी तस्वीरें हटाने पर भी या किसी खास व्यक्ति को दिखाने वाली सभी तस्वीरें हटाने पर भी, कुछ परीक्षणों में जनरेटेड सैंपल में उल्लेखनीय बदलाव नहीं आया।
इसका सीधा अर्थ यह है कि अध्ययन के इस्तेमाल किए गए deletion test में ऐसे प्रशिक्षण डेटा को उस आउटपुट के लिए कारणात्मक रूप से जिम्मेदार नहीं ठहराया जा सकता, अगर उसे हटाने पर आउटपुट नहीं बदलता। लेकिन यह non-attribution का निष्कर्ष है, ‘डेटा का कोई प्रभाव कभी था ही नहीं’ का व्यापक प्रमाण नहीं।
कॉपीराइट विवादों पर संभावित असर
यह निष्कर्ष AI इमेज कंपनियों—जैसे Midjourney, OpenAI या Microsoft—के खिलाफ कॉपीराइट दावों की एक खास दलील को कठिन बना सकता है। यदि दावा यह हो कि किसी विशेष कलाकार की रचनाओं ने किसी विवादित आउटपुट को सीधे जन्म दिया, तो वादी के लिए कारणात्मक योगदान साबित करना मुश्किल हो सकता है, खासकर तब जब कलाकार का पूरा corpus हटाने पर भी आउटपुट लगभग अपरिवर्तित रहे।
फिर भी अध्ययन किसी मुकदमे का फैसला नहीं करता और न ही कोई कानूनी नियम स्थापित करता है। कॉपीराइट मामलों में प्रशिक्षण के दौरान अनधिकृत प्रतिलिपि, किसी खास आउटपुट और संरक्षित रचना के बीच substantial similarity, मॉडल की पहुंच, बाजार पर संभावित नुकसान, अनुबंध की शर्तें और अन्य प्रमाण भी महत्वपूर्ण हो सकते हैं।
अध्ययन की अहम सीमाएं
यह ‘मेमोराइजेशन नहीं हुआ’ का निष्कर्ष नहीं है
किसी आउटपुट को deletion test में किसी एक प्रशिक्षण तस्वीर से attributable न पाया जाना यह साबित नहीं करता कि मॉडल ने सामग्री को याद नहीं रखा। मॉडल कुछ prompts या sampling परिस्थितियों में किसी रचना को दोहरा सकता है, या किसी संरक्षित काम से पर्याप्त समानता वाला आउटपुट दे सकता है। शोध ने प्रशिक्षण इकाइयों को हटाने पर आउटपुट की causal sensitivity मापी, मेमोराइजेशन या उल्लंघन के हर संभावित रूप को नहीं।
यह LLM पर लागू सिद्ध निष्कर्ष नहीं है
अध्ययन diffusion मॉडलों पर केंद्रित है, जो इमेज और अन्य audiovisual सामग्री जनरेट करते हैं। इसकी ensemble और ablation तकनीक तथा डेटा-स्केलिंग से जुड़ा अनुभवजन्य निष्कर्ष transformer आधारित large language models पर अपने-आप सिद्ध नहीं हो जाता।
अन्य प्रमाणों की जरूरत बनी रहेगी
अदालतों और तकनीकी जांचकर्ताओं को अब भी prompt-based reproduction tests, similarity और provenance analysis, प्रशिक्षण डेटा व सिस्टम रिकॉर्ड, model audits और लागू कानूनी विश्लेषण की जरूरत होगी।
कुल मिलाकर, ‘एट्रिब्यूशन डिके’ यह बताता है कि बड़े डेटासेट पर प्रशिक्षित मॉडल के किसी एक आउटपुट के पीछे किसी एक स्रोत की सीधी, एकल कहानी अक्सर कमजोर पड़ सकती है। यह यह नहीं दिखाता कि कॉपी करना साबित ही नहीं किया जा सकता या प्रशिक्षण डेटा के इस्तेमाल से जुड़े सभी दावे समाप्त हो जाते हैं।
news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
उन्होंने इस ensemble की तुलना उसी डेटा पर प्रशिक्षित 24 पारंपरिक diffusion मॉडलों से की। रिपोर्ट के अनुसार, दोनों तरह के मॉडलों के सामान्य image-quality माप लगभग तुलनीय रहे।
कुल मिलाकर सात सार्वजनिक इमेज संग्रहों पर 24 ensembles का परीक्षण किया गया। इन डेटासेट में 256 तस्वीरों से लेकर 160,000 से अधिक तस्वीरें थीं। हर परीक्षण में शोधकर्ताओं ने मूल आउटपुट के साथ एक तरह का ‘counterfactual universe’ बनाया—ऐसे संस्करण, जिनमें संभावित प्रशिक्षण इकाइयों को एक-एक करके हटाया गया था।
मूल आउटपुट से किसी हटाई गई इकाई के कारण आया सबसे बड़ा अंतर ‘counterfactual radius’ कहलाया। यह उस इकाई के अधिकतम कारणात्मक प्रभाव का माप था।
‘एट्रिब्यूशन डिके’ से क्या पता चला?
डेटासेट का आकार बढ़ने पर counterfactual radius घटता गया। यानी किसी एक तस्वीर को हटाने से जनरेटेड इमेज में बहुत कम या कोई स्पष्ट बदलाव नहीं आया।
बड़े पैमाने पर यही बात किसी एक तस्वीर से आगे भी लागू हो सकती है। उदाहरण के लिए, किसी कलाकार की सभी तस्वीरें हटाने पर भी या किसी खास व्यक्ति को दिखाने वाली सभी तस्वीरें हटाने पर भी, कुछ परीक्षणों में जनरेटेड सैंपल में उल्लेखनीय बदलाव नहीं आया।
इसका सीधा अर्थ यह है कि अध्ययन के इस्तेमाल किए गए deletion test में ऐसे प्रशिक्षण डेटा को उस आउटपुट के लिए कारणात्मक रूप से जिम्मेदार नहीं ठहराया जा सकता, अगर उसे हटाने पर आउटपुट नहीं बदलता। लेकिन यह non-attribution का निष्कर्ष है, ‘डेटा का कोई प्रभाव कभी था ही नहीं’ का व्यापक प्रमाण नहीं।
कॉपीराइट विवादों पर संभावित असर
यह निष्कर्ष AI इमेज कंपनियों—जैसे Midjourney, OpenAI या Microsoft—के खिलाफ कॉपीराइट दावों की एक खास दलील को कठिन बना सकता है। यदि दावा यह हो कि किसी विशेष कलाकार की रचनाओं ने किसी विवादित आउटपुट को सीधे जन्म दिया, तो वादी के लिए कारणात्मक योगदान साबित करना मुश्किल हो सकता है, खासकर तब जब कलाकार का पूरा corpus हटाने पर भी आउटपुट लगभग अपरिवर्तित रहे।
फिर भी अध्ययन किसी मुकदमे का फैसला नहीं करता और न ही कोई कानूनी नियम स्थापित करता है। कॉपीराइट मामलों में प्रशिक्षण के दौरान अनधिकृत प्रतिलिपि, किसी खास आउटपुट और संरक्षित रचना के बीच substantial similarity, मॉडल की पहुंच, बाजार पर संभावित नुकसान, अनुबंध की शर्तें और अन्य प्रमाण भी महत्वपूर्ण हो सकते हैं।
अध्ययन की अहम सीमाएं
यह ‘मेमोराइजेशन नहीं हुआ’ का निष्कर्ष नहीं है
किसी आउटपुट को deletion test में किसी एक प्रशिक्षण तस्वीर से attributable न पाया जाना यह साबित नहीं करता कि मॉडल ने सामग्री को याद नहीं रखा। मॉडल कुछ prompts या sampling परिस्थितियों में किसी रचना को दोहरा सकता है, या किसी संरक्षित काम से पर्याप्त समानता वाला आउटपुट दे सकता है। शोध ने प्रशिक्षण इकाइयों को हटाने पर आउटपुट की causal sensitivity मापी, मेमोराइजेशन या उल्लंघन के हर संभावित रूप को नहीं।
यह LLM पर लागू सिद्ध निष्कर्ष नहीं है
अध्ययन diffusion मॉडलों पर केंद्रित है, जो इमेज और अन्य audiovisual सामग्री जनरेट करते हैं। इसकी ensemble और ablation तकनीक तथा डेटा-स्केलिंग से जुड़ा अनुभवजन्य निष्कर्ष transformer आधारित large language models पर अपने-आप सिद्ध नहीं हो जाता।
अन्य प्रमाणों की जरूरत बनी रहेगी
अदालतों और तकनीकी जांचकर्ताओं को अब भी prompt-based reproduction tests, similarity और provenance analysis, प्रशिक्षण डेटा व सिस्टम रिकॉर्ड, model audits और लागू कानूनी विश्लेषण की जरूरत होगी।
कुल मिलाकर, ‘एट्रिब्यूशन डिके’ यह बताता है कि बड़े डेटासेट पर प्रशिक्षित मॉडल के किसी एक आउटपुट के पीछे किसी एक स्रोत की सीधी, एकल कहानी अक्सर कमजोर पड़ सकती है। यह यह नहीं दिखाता कि कॉपी करना साबित ही नहीं किया जा सकता या प्रशिक्षण डेटा के इस्तेमाल से जुड़े सभी दावे समाप्त हो जाते हैं।
news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
news.mit.eduWhen AI art has no author: Study finds generated images often can't ...
pmc.ncbi.nlm.nih.govAuthorship Attribution in the Era of LLMs: Problems ... - PMC