MIT çalışması, yapay zekâ görsellerinde “atıf çürümesi”ni ortaya koydu

“Atıf çürümesi” ne gösterdi?

Veri kümeleri büyüdükçe karşı-olgusal yarıçap küçüldü. Başka bir deyişle, tek bir görseli eğitimden çıkarmak, üretilen görüntüyü giderek daha az değiştirir hâle geldi. Yeterince büyük ölçeklerde bu durum yalnızca tek bir görsel için değil, aynı sanatçıya ait tüm görseller veya belirli bir kişiyi gösteren tüm fotoğraflar için de geçerli olabildi. Bu kategorilerin tamamı çıkarıldığında bile üretilen örnek anlamlı biçimde değişmeyebildi.

Buradaki kritik nokta, “atıf yapılamaması”nın çalışmada kullanılan karşı-olgusal ölçüye özgü olmasıdır. Bir eğitim birimi çıkarıldığında çıktı değişmiyorsa, söz konusu birim o çıktı için bu ölçüte göre nedensel sorumlu olarak gösterilemez.

Telif davaları açısından anlamı ne?

Bulgular, bir yapay zekâ şirketine karşı açılan ve belirli bir çıktının belirli bir sanatçının eserlerinden veya o sanatçının tarzını taşıyan kopyalardan kaynaklandığını ileri süren bazı telif teorilerini zorlaştırabilir. Sanatçının tüm eserleri çıkarıldığında çıktı esasen değişmiyorsa, davacı tarafın o külliyatın söz konusu çıktıya doğrudan ve özel bir nedensel katkı yaptığını kanıtlaması güçleşebilir.

Ancak çalışma herhangi bir davayı karara bağlamıyor ve yeni bir hukuk kuralı ortaya koymuyor. Telif uyuşmazlıkları eğitim sırasında izinsiz kopyalama, belirli bir çıktı ile korunan eser arasındaki esaslı benzerlik, erişim, pazar zararı, sözleşme şartları ve başka hukuki meseleleri de kapsayabilir. Tek bir görselin tek bir çıktı için vazgeçilmez olmaması, bu diğer soruları ortadan kaldırmaz.

Çalışmanın önemli sınırları

• Ezberleme olmadığını göstermiyor: Bir çıktı, bu silme testine göre tek bir eğitim görseline atfedilemeyebilir. Buna rağmen model bazı materyalleri ezberlemiş olabilir, belirli istemler veya örnekleme koşulları altında bunları yeniden üretebilir ya da korunan bir esere büyük ölçüde benzeyen bir görüntü oluşturabilir. Çalışma, her türlü ezberleme veya telif ihlali biçimini değil, birimlerin çıkarılmasına karşı nedensel duyarlılığı test ediyor.
• Büyük dil modelleri için kanıt sunmuyor: Araştırma difüzyon modellerine, özellikle görsel üretim sistemlerine odaklanıyor. Topluluk ve ablasyon yöntemiyle elde edilen ölçekleme bulgusunun transformatör tabanlı büyük dil modelleri için de geçerli olduğu bu çalışmayla gösterilmiş değil.
• Başka kanıtların yerini almıyor: Mahkemeler ve teknik incelemeler yine istemlerle yeniden üretim testlerine, benzerlik ve kaynak analizi sonuçlarına, eğitim verisi ve sistem kayıtlarına, model denetimlerine ve uygulanabilir hukuk kurallarına ihtiyaç duyabilir. Atıf çürümesi, büyük ölçeklerde tek kaynağa dayalı nedensel açıklamanın başarısız olabileceğini gösteriyor; kopyalamanın başka kanıtlarla ispatlanamayacağını değil.