Yapay zekâ görsellerinin kaynağı neden izlenemiyor? MIT çalışması “atıf çürümesi”ni ortaya koydu

Ekip ayrıca aynı verilerle eğitilmiş 24 geleneksel difüzyon modeliyle karşılaştırma yaptı. Modellerin standart ölçümlerde genel olarak benzer çıktı kalitesine sahip olduğu belirtildi.

Testler, 256 görselden 160 binden fazla görsele uzanan veri setlerinde gerçekleştirildi. Araştırmacılar şu kaynakları sırayla çıkardı:

• tek bir görseli,
• tek bir sanatçının tüm çalışmalarını,
• belirli bir kişiye ait tüm fotoğrafları.

Veri seti büyüdükçe bu kaynaklardan birinin çıkarılması, oluşturulan sonuçta çoğu zaman kayda değer bir değişiklik yaratmadı. Çalışmanın “atıf çürümesi” dediği olgu, tek tek kaynakların ölçülebilir etkisinin veri ölçeği büyüdükçe azalmasını ifade ediyor.

Telif davaları açısından ne anlama geliyor?

Bulgular, belirli bir yapay zekâ sisteminin ürettiği bir çıktının davacının tek bir görselinden veya sanatçıya ait eksiksiz bir çalışmadan kaynaklandığını öne süren iddiaları karmaşıklaştırabilir. Çünkü ilgili materyal eğitim verisinden tamamen çıkarıldığında çıktı değişmiyorsa, bu karşılaştırma o çıktıyı söz konusu kaynağa bağlamak için sınırlı kanıt sağlar.

Bu durum, Midjourney, OpenAI veya Microsoft’la ilişkilendirilen sistemlerin ürettiği belirli görsellerin hangi kaynaklardan etkilendiğine dair soruşturmalarda önem taşıyabilir. Ancak çalışma bir hukuk kararı değil; belirli bir çıktının nedensel olarak tek bir eğitim kaynağına bağlanmasının büyük ölçeklerde ne kadar zorlaştığına ilişkin deneysel bir bulgu sunuyor.

Araştırma şu ayrı hukuki soruları yanıtlamıyor:

• Şirketler eğitim verilerini toplarken eserleri kopyaladı mı?
• Eğitim süreci telif hakkı ihlali oluşturuyor mu veya adil kullanım kapsamında mı?
• Üretilen sonuç, korunan bir eserle esaslı ölçüde benzer mi?
• Model, bir sanatçının üslubunu taklit etmesi için bilerek yönlendirildi mi?

Bu nedenle mahkemelerin yalnızca “tek görselden tek çıktıya” uzanan nedensel bağlantıya değil; veri edinme kayıtlarına, doğrudan benzerlik kanıtlarına, hedefli istemler karşısındaki model davranışına, içerik kökeni bilgilerine ve bilirkişi değerlendirmelerine de bakması gerekebilir. Bu, çalışmanın büyük veri setlerinde tekil çıktıların kaynağını belirlemenin zorlaştığını göstermesinden çıkarılan bir değerlendirmedir.

Bu bulgu neden yapay zekâ için bir “serbest geçiş” değil?

“Atıf çürümesi”, difüzyon modellerinin hiçbir şeyi ezberleyemediği anlamına gelmiyor. Modeller bazı koşullarda eğitim örneklerini ezberleyebilir veya yeniden üretebilir. Bulguların söylediği, veri seti ölçeklendikçe tek bir kaynağın etkisinin çoğu zaman ölçülemez hâle gelmesidir; kopyalamanın hiç gerçekleşmediği değil.

Ayrıca çalışma difüzyon tabanlı görsel üreticilere odaklanıyor. Sonuçlar, dil modelleri veya diğer üretken yapay zekâ mimarileri için otomatik olarak genellenemez.

Dolayısıyla araştırma, yapay zekâ telif tartışmalarını sona erdirmekten çok kanıt standardı hakkında yeni bir soru ortaya koyuyor: Bir çıktının tek bir görsele ne ölçüde borçlu olduğunu göstermek mümkün değilse, sorumluluk değerlendirmesi daha geniş bir veri ve model davranışı incelemesine dayanmak zorunda kalabilir.