Yapay zekâ görsellerinde “kaynak izi” neden silikleşiyor?

MIT Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı (CSAIL) araştırmacıları Zheng Dai ve David Gifford'un çalışması, difüzyon tabanlı görsel üreticiler büyüdükçe önemli bir sorunun daha da güçlendiğini gösteriyor: Belirli bir eğitim görselinin, belirli bir yapay zekâ çıktısına neden olduğunu kanıtlamak giderek zorlaşıyor. Araştırmacılar bu olguyu kaynak atfı zayıflaması (attribution decay) olarak adlandırıyor.

Bu sonuç, yapay zekâ tarafından üretilen sanat ve telif hakkı tartışmaları açısından önemli. Ancak kapsamı, bazı manşetlerin ima edebileceğinden daha dar. Çalışma; bir çıktının belirli bir eğitim verisinden nedensel olarak kaynaklanıp kaynaklanmadığını inceliyor. Şirketlerin telifli eserleri eğitim için toplamasının hukuka uygun olup olmadığına, çıktının korunan bir eserle “esaslı ölçüde benzer” sayılıp sayılmayacağına veya modelin bir eseri ezberleyip yeniden üretip üretemeyeceğine tek başına yanıt vermiyor.

“Kaynak atfı zayıflaması” ne anlama geliyor?

Temel eğilim şöyle: Difüzyon modeli daha büyük bir görsel veri kümesiyle eğitildikçe, tek bir eğitim örneğinin belirli bir çıktı üzerindeki ölçülebilir etkisi küçülüyor. Veri kümesi yeterince büyüdüğünde, söz konusu görsel eğitimden çıkarılsa bile üretilen sonuç pratikte değişmeyebiliyor.

Araştırmacılar daha geniş çaplı çıkarma testleri de yaptı. Bir sanatçının tüm eserleri ile belirli bir kişinin tüm fotoğrafları veri kümesinden kaldırıldığında da, model ve veri kümesi yeterince büyükse üretilen çıktılarda çok az veya hiç ölçülebilir değişiklik görülmeyebildi. Deneyler, 256 görselden 160.000'den fazla görsele uzanan veri kümeleriyle eğitilen 24 difüzyon topluluğunu kapsadı.

Bu, söz konusu görselin modelin genel eğitim sürecinde hiçbir rol oynamadığı anlamına gelmiyor. Anlamı daha sınırlı: Belirli bir çıktı açısından ve çalışmada kullanılan çıkarma testine göre, o görselin tek başına yaptığı nedensel katkı tespit edilemeyecek kadar küçük olabilir.

Araştırmacılar testi nasıl yaptı?

Bu soruyu doğrudan sınamak teknik açıdan zor. Geleneksel yöntemde, bir kaynak görsel çıkarıldıktan sonra model yeniden eğitilir ve yeni çıktı eski sonuçla karşılaştırılır. Bu işlemi tek tek görseller, sanatçılar veya kişiler için tekrarlamak hem pahalıdır hem de yaklaşık yöntemler verinin sonraki etkilerinin tamamını ortadan kaldırmayabilir.

Dai ve Gifford bunun yerine diffusion ensemble adı verilen bir mimari tasarladı. Bu yapı, farklı ve birbiriyle örtüşen veri alt kümeleri üzerinde eğitilmiş çok sayıda daha küçük difüzyon bileşeninden oluşuyor. Belirli bir kaynağın etkisini test etmek için araştırmacılar, o kaynağı görmüş bileşenleri devre dışı bırakıp tüm sistemi baştan eğitmeden karşı-olgusal çıktıyı üretebildi.

Ekip, bu yaklaşımı aynı verilerle eğitilmiş 24 geleneksel difüzyon modeliyle karşılaştırdı. Standart ölçümlere göre çıktı kalitesi genel olarak benzerdi.

Bu mimari, araştırmacılara kendi test düzenekleri içinde kesin bir çıkarma deneyi sundu: Bir kaynağı görmüş tüm bileşenler kapatıldığında çıktı değişmiyorsa, deney o kaynağın söz konusu çıktıya neden olduğuna dair ölçülebilir bir kanıt sağlamıyordu.

Telif davaları açısından neden önemli?

Kaynak atfı zayıflaması, belirli bir tür iddiayı zorlaştırabilir: Bir yapay zekâ çıktısının davacının belirli bir görselinden veya bir sanatçının bütün çalışmalarından kaynaklandığı ya da bunların kopyası olduğu iddiasını.

Örneğin Midjourney, OpenAI veya Microsoft'la bağlantılı bir sistemin ürettiği görsel için, ilgili eğitim malzemesi çıkarıldığında sonuç değişmiyorsa, bu karşı-olgusal test çıktıyı söz konusu kaynağa bağlamak için sınırlı dayanak sunar. Ancak çalışma bu şirketlerden herhangi birinin hukuki sorumluluğu hakkında karar vermiyor. Bulgular, yalnızca belirli eğitim verileri ile belirli çıktılar arasındaki nedensel bağlantıyı kurmanın neden güçleşebileceğine dair kanıt sağlıyor.

Telif uyuşmazlıklarında şu sorular ayrıca değerlendirilmek zorunda:

• Eğitim verisi nasıl elde edildi? Çalışma, telifli bir eserin eğitim amacıyla toplanmasının veya kullanılmasının hukuka uygun olup olmadığını belirlemiyor.
• Çıktı korunan eserle esaslı ölçüde benzer mi? Tek bir eğitim dosyasına nedensel atıf yapmak zor olsa bile görsel benzerlik hukuken önem taşıyabilir.
• Model bir örneği ezberledi veya yeniden üretti mi? Bazı koşullarda modeller eğitim materyallerini kopyaya yakın biçimde üretebilir. Bu, her çıktının tek bir kaynağa atfedilebileceğini kanıtlamaktan farklıdır.
• Sistem belirli bir sanatçıyı taklit edecek şekilde mi yönlendirildi? Hedefli komutlar, özel ince ayar veya modelin diğer davranışları, tek bir görseli çıkarma testinin yakalayamayacağı kanıtlar sunabilir.

Bu nedenle mahkemeler ve bilirkişiler; veri edinme kayıtları, içerik kökeni bilgileri, doğrudan benzerlik analizleri, hedefli komutlarla yapılan model testleri, model davranışı ve uzman değerlendirmelerini birlikte ele almak zorunda kalabilir. Bu, araştırmanın bir hukuk kuralı getirdiği anlamına gelmez; büyük ölçeklerde tek bir görseli tek bir çıktının nedeni olarak göstermenin güvenilmezleşebileceğine dair bulgudan çıkan pratik bir sonuçtur.

Bu sonuç yapay zekâ geliştiricileri için “aklanma” anlamına gelmiyor

Kaynak atfı zayıflaması, difüzyon modellerinin hiçbir şeyi kopyalamadığı anlamına gelmiyor. Çalışmanın gösterdiği şey, veri kümeleri büyüdükçe tek bir kaynağın ölçülebilir etkisinin ihmal edilebilir hâle gelebilmesi. Modeller bazı koşullarda eğitim örneklerini hâlâ ezberleyebilir veya yeniden üretebilir.

Çalışmanın kapsamı da sınırlı: Araştırma difüzyon tabanlı görsel üreticileri inceledi. Sonuçlar otomatik olarak dil modellerine veya diğer üretken yapay zekâ mimarilerine genellenemez.

En temkinli ve doğru yorum şu: Büyük difüzyon sistemlerinde belirli bir görselin ya da sanatçının çalışmalarının belirli bir çıktıya etkisini izlemek zorlaşabilir. Bu durum, belirli bir çıktıdan kimin sorumlu olduğunu kanıtlamanın bir yolunu zayıflatabilir; ancak eğitim uygulamaları, kopyalama, taklit ve fikrî mülkiyet haklarıyla ilgili daha geniş soruları ortadan kaldırmaz.