MIT çalışması, yapay zekâ görsellerinde “atıf çürümesi”ni ortaya koydu
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu. Bu olguya “atıf çürümesi” adı veriliyor: Bir görsel eğitimde kullanılmış olsa bile, o görselin belirli bir çıktının oluşumundan sorumlu olduğu gösterilemeyebilir.
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu.
Bu olguya “atıf çürümesi” adı veriliyor: Bir görsel eğitimde kullanılmış olsa bile, o görselin belirli bir çıktının oluşumundan sorumlu olduğu gösterilemeyebilir.
Ekip, bir görsel eğitimden çıkarılmış olsaydı ne olacağını test etmek için kontrollü veri dilimleriyle eğitilmiş bağımsız model bileşenlerinden oluşan bir difüzyon topluluğu kurdu.
256 görselden 160 binden fazla görsele uzanan veri kümeleriyle yürütülen deneylerde 24 topluluk ve yedi açık görsel koleksiyonu karşılaştırıldı.
What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusionAI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com
Zheng Dai ve David Gifford’un MIT Bilgisayar Bilimleri ve Yapay Zekâ Laboratuvarı (CSAIL) çalışması, difüzyon tabanlı görsel üreticilerde “atıf çürümesi” (attribution decay) adını verdikleri bir olguyu ortaya koyuyor. Buna göre model daha fazla veriyle eğitildikçe, tek bir eğitim görselinin belirli bir çıktıya yaptığı nedensel katkı küçülebiliyor ve sonunda tespit edilemeyecek seviyeye inebiliyor.
Bu sonuç, eğitim görsellerinin hiç kullanılmadığı, modelde saklanmadığı veya uygun istemlerle yeniden üretilemeyeceği anlamına gelmiyor. Araştırmanın ölçtüğü şey, belirli bir görselin belirli bir çıktı üzerindeki nedensel etkisi.
Araştırmacılar neyi test etti?
Bir görselin modele etkisini geleneksel tahmin yöntemleriyle hesaplamak yerine ekip, bir difüzyon topluluğu (diffusion ensemble) tasarladı. Bu yapıda, bağımsız olarak eğitilen model bileşenlerinin her biri eğitim verisinin kontrollü bir bölümünü gördü.
Böylece araştırmacılar şu karşı-olgusal soruyu doğrudan test edebildi: “Bu görsel eğitimde hiç yer almasaydı sonuç ne olurdu?” Bunun için tek parça hâlinde eğitilmiş bir modeli baştan eğitmek yerine, söz konusu görsele maruz kalan tüm bileşenleri devre dışı bıraktılar.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "MIT çalışması, yapay zekâ görsellerinde “atıf çürümesi”ni ortaya koydu"?
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu.
What are the key points to validate first?
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu. Bu olguya “atıf çürümesi” adı veriliyor: Bir görsel eğitimde kullanılmış olsa bile, o görselin belirli bir çıktının oluşumundan sorumlu olduğu gösterilemeyebilir.
What should I do next in practice?
Ekip, bir görsel eğitimden çıkarılmış olsaydı ne olacağını test etmek için kontrollü veri dilimleriyle eğitilmiş bağımsız model bileşenlerinden oluşan bir difüzyon topluluğu kurdu.
MIT çalışması, yapay zekâ görsellerinde “atıf çürümesi”ni ortaya koydu
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu. Bu olguya “atıf çürümesi” adı veriliyor: Bir görsel eğitimde kullanılmış olsa bile, o görselin belirli bir çıktının oluşumundan sorumlu olduğu gösterilemeyebilir.
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu.
Bu olguya “atıf çürümesi” adı veriliyor: Bir görsel eğitimde kullanılmış olsa bile, o görselin belirli bir çıktının oluşumundan sorumlu olduğu gösterilemeyebilir.
Ekip, bir görsel eğitimden çıkarılmış olsaydı ne olacağını test etmek için kontrollü veri dilimleriyle eğitilmiş bağımsız model bileşenlerinden oluşan bir difüzyon topluluğu kurdu.
256 görselden 160 binden fazla görsele uzanan veri kümeleriyle yürütülen deneylerde 24 topluluk ve yedi açık görsel koleksiyonu karşılaştırıldı.
What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusionAI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com
Zheng Dai ve David Gifford’un MIT Bilgisayar Bilimleri ve Yapay Zekâ Laboratuvarı (CSAIL) çalışması, difüzyon tabanlı görsel üreticilerde “atıf çürümesi” (attribution decay) adını verdikleri bir olguyu ortaya koyuyor. Buna göre model daha fazla veriyle eğitildikçe, tek bir eğitim görselinin belirli bir çıktıya yaptığı nedensel katkı küçülebiliyor ve sonunda tespit edilemeyecek seviyeye inebiliyor.
Bu sonuç, eğitim görsellerinin hiç kullanılmadığı, modelde saklanmadığı veya uygun istemlerle yeniden üretilemeyeceği anlamına gelmiyor. Araştırmanın ölçtüğü şey, belirli bir görselin belirli bir çıktı üzerindeki nedensel etkisi.
Araştırmacılar neyi test etti?
Bir görselin modele etkisini geleneksel tahmin yöntemleriyle hesaplamak yerine ekip, bir difüzyon topluluğu (diffusion ensemble) tasarladı. Bu yapıda, bağımsız olarak eğitilen model bileşenlerinin her biri eğitim verisinin kontrollü bir bölümünü gördü.
Böylece araştırmacılar şu karşı-olgusal soruyu doğrudan test edebildi: “Bu görsel eğitimde hiç yer almasaydı sonuç ne olurdu?” Bunun için tek parça hâlinde eğitilmiş bir modeli baştan eğitmek yerine, söz konusu görsele maruz kalan tüm bileşenleri devre dışı bıraktılar.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "MIT çalışması, yapay zekâ görsellerinde “atıf çürümesi”ni ortaya koydu"?
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu.
What are the key points to validate first?
Araştırmacılar, difüzyon modellerinde veri kümesi büyüdükçe tek bir eğitim görselinin belirli bir çıktıya olan nedensel etkisinin azalabildiğini buldu. Bu olguya “atıf çürümesi” adı veriliyor: Bir görsel eğitimde kullanılmış olsa bile, o görselin belirli bir çıktının oluşumundan sorumlu olduğu gösterilemeyebilir.
What should I do next in practice?
Ekip, bir görsel eğitimden çıkarılmış olsaydı ne olacağını test etmek için kontrollü veri dilimleriyle eğitilmiş bağımsız model bileşenlerinden oluşan bir difüzyon topluluğu kurdu.
Ekip ayrıca bu topluluğu, aynı verilerle eğitilen 24 geleneksel difüzyon modeliyle karşılaştırdı. Modellerin standart görsel kalite ölçümlerinde genel olarak benzer sonuçlar verdiği bildirildi.
Deneyler, yedi açık görsel koleksiyonu üzerinde eğitilen 24 toplulukla gerçekleştirildi. Veri kümeleri 256 görselden 160 binden fazla görsele kadar değişiyordu. Araştırmacılar her çıktı için, her olası eğitim birimi çıkarıldığında oluşacak alternatif sonuçları da üretti. Bu alternatifler bütünü, çalışmada “karşı-olgusal evren” olarak ele alındı. Orijinal çıktı ile bu alternatifler arasındaki en büyük fark ise tek bir birimin çıkarılmasının yaratabileceği azami nedensel etkiyi ifade eden “karşı-olgusal yarıçap” ölçüsüyle değerlendirildi.
“Atıf çürümesi” ne gösterdi?
Veri kümeleri büyüdükçe karşı-olgusal yarıçap küçüldü. Başka bir deyişle, tek bir görseli eğitimden çıkarmak, üretilen görüntüyü giderek daha az değiştirir hâle geldi. Yeterince büyük ölçeklerde bu durum yalnızca tek bir görsel için değil, aynı sanatçıya ait tüm görseller veya belirli bir kişiyi gösteren tüm fotoğraflar için de geçerli olabildi. Bu kategorilerin tamamı çıkarıldığında bile üretilen örnek anlamlı biçimde değişmeyebildi.
Buradaki kritik nokta, “atıf yapılamaması”nın çalışmada kullanılan karşı-olgusal ölçüye özgü olmasıdır. Bir eğitim birimi çıkarıldığında çıktı değişmiyorsa, söz konusu birim o çıktı için bu ölçüte göre nedensel sorumlu olarak gösterilemez.
Telif davaları açısından anlamı ne?
Bulgular, bir yapay zekâ şirketine karşı açılan ve belirli bir çıktının belirli bir sanatçının eserlerinden veya o sanatçının tarzını taşıyan kopyalardan kaynaklandığını ileri süren bazı telif teorilerini zorlaştırabilir. Sanatçının tüm eserleri çıkarıldığında çıktı esasen değişmiyorsa, davacı tarafın o külliyatın söz konusu çıktıya doğrudan ve özel bir nedensel katkı yaptığını kanıtlaması güçleşebilir.
Ancak çalışma herhangi bir davayı karara bağlamıyor ve yeni bir hukuk kuralı ortaya koymuyor. Telif uyuşmazlıkları eğitim sırasında izinsiz kopyalama, belirli bir çıktı ile korunan eser arasındaki esaslı benzerlik, erişim, pazar zararı, sözleşme şartları ve başka hukuki meseleleri de kapsayabilir. Tek bir görselin tek bir çıktı için vazgeçilmez olmaması, bu diğer soruları ortadan kaldırmaz.
Çalışmanın önemli sınırları
Ezberleme olmadığını göstermiyor: Bir çıktı, bu silme testine göre tek bir eğitim görseline atfedilemeyebilir. Buna rağmen model bazı materyalleri ezberlemiş olabilir, belirli istemler veya örnekleme koşulları altında bunları yeniden üretebilir ya da korunan bir esere büyük ölçüde benzeyen bir görüntü oluşturabilir. Çalışma, her türlü ezberleme veya telif ihlali biçimini değil, birimlerin çıkarılmasına karşı nedensel duyarlılığı test ediyor.
Büyük dil modelleri için kanıt sunmuyor: Araştırma difüzyon modellerine, özellikle görsel üretim sistemlerine odaklanıyor. Topluluk ve ablasyon yöntemiyle elde edilen ölçekleme bulgusunun transformatör tabanlı büyük dil modelleri için de geçerli olduğu bu çalışmayla gösterilmiş değil.
Başka kanıtların yerini almıyor: Mahkemeler ve teknik incelemeler yine istemlerle yeniden üretim testlerine, benzerlik ve kaynak analizi sonuçlarına, eğitim verisi ve sistem kayıtlarına, model denetimlerine ve uygulanabilir hukuk kurallarına ihtiyaç duyabilir. Atıf çürümesi, büyük ölçeklerde tek kaynağa dayalı nedensel açıklamanın başarısız olabileceğini gösteriyor; kopyalamanın başka kanıtlarla ispatlanamayacağını değil.
news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
Ekip ayrıca bu topluluğu, aynı verilerle eğitilen 24 geleneksel difüzyon modeliyle karşılaştırdı. Modellerin standart görsel kalite ölçümlerinde genel olarak benzer sonuçlar verdiği bildirildi.
Deneyler, yedi açık görsel koleksiyonu üzerinde eğitilen 24 toplulukla gerçekleştirildi. Veri kümeleri 256 görselden 160 binden fazla görsele kadar değişiyordu. Araştırmacılar her çıktı için, her olası eğitim birimi çıkarıldığında oluşacak alternatif sonuçları da üretti. Bu alternatifler bütünü, çalışmada “karşı-olgusal evren” olarak ele alındı. Orijinal çıktı ile bu alternatifler arasındaki en büyük fark ise tek bir birimin çıkarılmasının yaratabileceği azami nedensel etkiyi ifade eden “karşı-olgusal yarıçap” ölçüsüyle değerlendirildi.
“Atıf çürümesi” ne gösterdi?
Veri kümeleri büyüdükçe karşı-olgusal yarıçap küçüldü. Başka bir deyişle, tek bir görseli eğitimden çıkarmak, üretilen görüntüyü giderek daha az değiştirir hâle geldi. Yeterince büyük ölçeklerde bu durum yalnızca tek bir görsel için değil, aynı sanatçıya ait tüm görseller veya belirli bir kişiyi gösteren tüm fotoğraflar için de geçerli olabildi. Bu kategorilerin tamamı çıkarıldığında bile üretilen örnek anlamlı biçimde değişmeyebildi.
Buradaki kritik nokta, “atıf yapılamaması”nın çalışmada kullanılan karşı-olgusal ölçüye özgü olmasıdır. Bir eğitim birimi çıkarıldığında çıktı değişmiyorsa, söz konusu birim o çıktı için bu ölçüte göre nedensel sorumlu olarak gösterilemez.
Telif davaları açısından anlamı ne?
Bulgular, bir yapay zekâ şirketine karşı açılan ve belirli bir çıktının belirli bir sanatçının eserlerinden veya o sanatçının tarzını taşıyan kopyalardan kaynaklandığını ileri süren bazı telif teorilerini zorlaştırabilir. Sanatçının tüm eserleri çıkarıldığında çıktı esasen değişmiyorsa, davacı tarafın o külliyatın söz konusu çıktıya doğrudan ve özel bir nedensel katkı yaptığını kanıtlaması güçleşebilir.
Ancak çalışma herhangi bir davayı karara bağlamıyor ve yeni bir hukuk kuralı ortaya koymuyor. Telif uyuşmazlıkları eğitim sırasında izinsiz kopyalama, belirli bir çıktı ile korunan eser arasındaki esaslı benzerlik, erişim, pazar zararı, sözleşme şartları ve başka hukuki meseleleri de kapsayabilir. Tek bir görselin tek bir çıktı için vazgeçilmez olmaması, bu diğer soruları ortadan kaldırmaz.
Çalışmanın önemli sınırları
Ezberleme olmadığını göstermiyor: Bir çıktı, bu silme testine göre tek bir eğitim görseline atfedilemeyebilir. Buna rağmen model bazı materyalleri ezberlemiş olabilir, belirli istemler veya örnekleme koşulları altında bunları yeniden üretebilir ya da korunan bir esere büyük ölçüde benzeyen bir görüntü oluşturabilir. Çalışma, her türlü ezberleme veya telif ihlali biçimini değil, birimlerin çıkarılmasına karşı nedensel duyarlılığı test ediyor.
Büyük dil modelleri için kanıt sunmuyor: Araştırma difüzyon modellerine, özellikle görsel üretim sistemlerine odaklanıyor. Topluluk ve ablasyon yöntemiyle elde edilen ölçekleme bulgusunun transformatör tabanlı büyük dil modelleri için de geçerli olduğu bu çalışmayla gösterilmiş değil.
Başka kanıtların yerini almıyor: Mahkemeler ve teknik incelemeler yine istemlerle yeniden üretim testlerine, benzerlik ve kaynak analizi sonuçlarına, eğitim verisi ve sistem kayıtlarına, model denetimlerine ve uygulanabilir hukuk kurallarına ihtiyaç duyabilir. Atıf çürümesi, büyük ölçeklerde tek kaynağa dayalı nedensel açıklamanın başarısız olabileceğini gösteriyor; kopyalamanın başka kanıtlarla ispatlanamayacağını değil.
news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
news.mit.eduWhen AI art has no author: Study finds generated images often can't ...
pmc.ncbi.nlm.nih.govAuthorship Attribution in the Era of LLMs: Problems ... - PMC