Yapay zekâ görselleri neden tek bir kaynağa bağlanamıyor?

MIT Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı (CSAIL) araştırmacılarının çalışması, yapay zekâ ile üretilen bir görseli belirli bir eğitim kaynağına bağlamak isteyenler için önemli bir soruna işaret ediyor: attribution decay, yani atıf ya da kaynak ilişkisinin zamanla zayıflaması. Difüzyon modeli daha fazla görselle eğitildikçe, tek bir eğitim örneğinin belirli bir çıktı üzerindeki ölçülebilir nedensel etkisi o kadar küçülebiliyor ki bu görselin etkisini kaldırmak sonuçta fark edilebilir bir değişiklik yaratmayabiliyor.

Bu bulgu, modelin söz konusu görselle hiç karşılaşmadığı, onu yeniden üretemeyeceği veya telif hakkı riskinin ortadan kalktığı anlamına gelmiyor. Araştırmanın gösterdiği daha dar teknik sonuç şu: Kontrollü bir çıkarma testinde belirli bir eğitim birimi, belirli bir çıktının üretilmesi için artık vazgeçilmez görünmeyebilir.

Araştırmacılar eğitim verisinin etkisini nasıl ölçtü?

Geleneksel etki analizleri, bir eğitim örneğinin model çıktısını ne ölçüde etkilediğini genellikle tahmin etmeye çalışır. Zheng Dai ve David Gifford ise kontrollü bir karşı-olgusal test yapılmasını sağlayan bir difüzyon topluluğu tasarladı. Bu yapı, her biri eğitim verisinin dikkatle planlanmış bir bölümünü gören, bağımsız biçimde eğitilmiş bileşenlerden oluşuyor.

Bu mimari araştırmacılara şu soruyu doğrudan sorma imkânı verdi: Bu görsel model eğitimini hiç etkilemeseydi model ne üretirdi? Tek ve büyük bir modeli baştan eğitmek yerine, seçilen görseli gören bileşenler devre dışı bırakıldı ve ardından karşılaştırma amacıyla yeni bir çıktı üretildi. Böylece yapılan işlem, yalnızca yaklaşık bir tahmin değil, görselin etkisinin kontrollü biçimde silinmesine dayalı bir ablasyon testi oldu.

Ekip, yedi açık görsel koleksiyonu üzerinde toplam 24 difüzyon topluluğunu değerlendirdi. Veri kümeleri 256 görselden 160.000’den fazla görsele kadar uzanıyordu. Bu sayede veri miktarı arttıkça atıf ilişkisinin nasıl değiştiği incelendi. Araştırmacılar özgün üretimi, aday eğitim birimleri çıkarıldıktan sonra elde edilen karşı-olgusal sonuçlarla karşılaştırdı.

Özgün çıktı ile karşı-olgusal çıktılar arasındaki ölçülen en büyük fark karşı-olgusal yarıçap olarak adlandırıldı. Bu değer, tek bir eğitim biriminin çıkarılmasının sonucu ne kadar değiştirebildiğini gösteren bir ölçüt olarak kullanıldı.

“Attribution decay” tam olarak ne anlama geliyor?

Veri kümeleri büyüdükçe karşı-olgusal yarıçap azaldı. Başka bir deyişle, tek bir görseli çıkarmak giderek daha az fark yarattı; bazı durumlarda sonuç, araştırmanın ölçüm yöntemi açısından özgün çıktıyla ayırt edilemeyecek kadar benzer kaldı.

Sonuç ilk bakışta sezgiye aykırı görünüyor: Daha fazla eğitim verisi, üretilen bir görselin belirli bir örneğe bağlanmasını kolaylaştırmak yerine zorlaştırabiliyor. Model, tek bir görsele yaslanmak yerine çok sayıda kaynaktan gelen benzer ve örtüşen örüntüleri öğrenebiliyor.

Etki yeterince büyük ölçekte yalnızca tek tek görsellerle sınırlı kalmadı. Çalışmaya göre belirli bir sanatçının tüm görsellerini veya belirli bir kişiyi gösteren tüm fotoğrafları çıkarmak da test edilen karşı-olgusal koşullarda üretilen örneği anlamlı biçimde değiştirmeyebildi.

Araştırmacıların “çözülme” ya da “zayıflama” demesinin nedeni de bu. Sorun yalnızca araştırmacıların yeterince gelişmiş bir iz sürme aracına sahip olmaması olmayabilir; tek bir kaynakla tek bir çıktı arasındaki nedensel bağ, bizzat modelin içinde ayırt edilemeyecek kadar dağılmış olabilir.

Telif davaları açısından ne ifade ediyor?

Atıf zayıflaması, belirli bir telif hakkı iddiasını kanıtlamayı zorlaştırabilir: Tartışmalı bir çıktının, adı verilen bir sanatçının eserleri ya da bu eserlerin kopyaları tarafından doğrudan meydana getirildiğini göstermek güçleşebilir. Sanatçının tüm külliyatı çıkarıldığında belirli bir görsel değişmiyorsa, o külliyatın söz konusu çıktı için tek başına gerekli olduğunu savunmak bu nedensel test açısından daha zor hâle gelir.

Bu durum, ticari görsel üretim sistemleri ve yapay zekâ modellerinin sanatçıların üsluplarını kopyaladığı yönündeki iddialar bakımından önem taşıyor. Büyük ölçekli eğitim, tanınabilir bir çıktıyı tek bir eserin veya tek bir sanatçının doğrudan sonucu olarak açıklayan basit “tek kaynak” anlatısını zayıflatabilir. Bu nedenle çalışma, üretken görsel sistemlerle ilgili fikrî mülkiyet davalarını karmaşıklaştırabilecek bir sonuç olarak değerlendiriliyor.

Ancak araştırma herhangi bir şirketin telif hakkını ihlal edip etmediğine karar vermiyor ve tek başına hukuki bir savunma oluşturmuyor. Telif uyuşmazlıklarında eğitim sırasında korunan eserlerin kopyalanıp kopyalanmadığı, çıktının korunan bir eserle esaslı benzerlik taşıyıp taşımadığı, modelin belirli komutlarla ne üretebildiği, ortaya çıkan zarar ve sözleşmesel yükümlülükler gibi farklı sorular da gündeme gelebilir.

Teknik anlamdaki “atıf yapılamıyor” ifadesi, hukuki anlamda “kopyalanmadı” demek değildir.

Bu sonuç modelin ezberlemediğini göstermiyor

Deney, eğitim birimlerinin çıkarılmasına karşı duyarlılığı test ediyor. Bir modelin bilgiyi nasıl koruyabileceği veya yeniden üretebileceğiyle ilgili tüm olasılıkları sınamıyor.

Bir model, topluluk mimarisindeki silme testinde herhangi bir tek görsele fazla bağımlı görünmeyebilir; buna rağmen bazı komutlar veya örnekleme koşulları altında belirli bir eseri yeniden üretebilir. Ayrıca tek bir eğitim görselinin o çıktı için nedensel olarak zorunlu olduğu kanıtlanmasa bile sonuç, korunan bir esere belirgin biçimde benzeyebilir.

Bu nedenle şu üç ifade birbirinden farklıdır:

• “Bu görsel bu çıktıyı etkiledi”: Görselin etkisi kaldırıldığında ölçülebilir bir değişiklik görülür.
• “Model bu görseli gördü veya onu korudu”: Model görsele maruz kalmış olabilir ya da görselin bazı özelliklerini ezberlemiş olabilir.
• “Çıktı korunan bir eseri kopyalıyor”: Ek teknik ve hukuki kanıt gerektiren bir sonuçtur.

Attribution decay doğrudan ilk soruyu ele alıyor; ikinci veya üçüncü soruyu tek başına yanıtlamıyor.

Bulgular henüz büyük dil modellerine uygulanamaz

Çalışma, görseller ve benzeri görsel-işitsel içerikler üreten difüzyon tabanlı modelleri konu alıyor. Bu nedenle araştırmada kullanılan topluluk mimarisi ve gözlenen ölçeklenme eğilimi, dönüştürücü mimarilere dayanan büyük dil modellerine otomatik olarak genellenemez.

Dil modellerinin mimarisi, eğitim süreçleri, token temsilleri ve çıktı üretme biçimleri farklıdır. Çalışma gelecekteki kaynak-izleme araştırmaları için bir yöntem veya fikir sunabilir; ancak aynı tür atıf zayıflamasının LLM’lerde de görüldüğünü göstermiyor.

Kopyalama iddiasını değerlendirmek için başka hangi kanıtlar gerekir?

Bir yapay zekâ sisteminin belirli bir eseri kopyalayıp kopyalamadığı sorusunda attribution decay yalnızca kanıt parçalarından biri. Mahkemeler ve teknik inceleme ekipleri şu unsurları da değerlendirmek durumunda kalabilir:

• sistemin kontrollü komutlarla belirli bir eseri yeniden üretip üretemediği;
• çıktı ile kopyalandığı iddia edilen eser arasındaki görsel benzerlik;
• eğitim verisinin kaynağı, erişim kayıtları ve veri geçmişi;
• model denetimleri ve sistem belgeleri;
• çıktının genel bir üslubu mu, yoksa korunan ve ayırt edilebilir bir ifadeyi mi yansıttığı; ve
• ilgili uyuşmazlıkta geçerli olan hukuki ölçütler.

Çalışmanın temel mesajı, yapay zekânın kaynaklarını “unuttuğu” iddiasından daha sınırlı ama daha kullanışlı: Difüzyon veri kümeleri büyüdükçe tek tek eğitim örneklerinin belirli bir çıktı üzerindeki nedensel katkısı, tespit edilemeyecek kadar dağınık hâle gelebiliyor. Bu durum kaynak atfını zorlaştırıyor; ancak ezberleme, yeniden üretim veya telif analizini imkânsız hâle getirmiyor.