Claude’un görünmez filigranı: Neyi tespit ediyor, neyi etmiyor?

Sistemde iki farklı yöntem bulunuyor:

• Metin: Modelin kelime seçimlerine dağıtılmış, okuyucunun fark edemeyeceği istatistiksel bir filigran.
• Desteklenen dosyalar: SVG, PNG ve JPG gibi formatlarda kullanılan, dijital olarak imzalanmış C2PA provenans metadatası.

Bunlar görünür bir etiket, gizli karakter, kullanıcı hesabı bilgisi veya telif hakkı bildirimi değil. Anthropic’e göre metin filigranı belirli bir kişiye, kuruma, sohbete ya da kullanıcı kimliğine kadar iz sürmeye yarayan herhangi bir bilgi taşımıyor.

Claude neden filigranla dünya çapında işaretleniyor?

Anthropic, kararın doğrudan nedenini AB Yapay Zekâ Yasası’nın 50. maddesindeki şeffaflık düzenlemeleri ve 50(2) maddesine ilişkin “Yapay Zekâ Tarafından Üretilen İçeriğin Şeffaflığı Uygulama Kuralları”na verdiği destek olarak açıklıyor. Söz konusu çerçeve, AB pazarına hizmet veren sağlayıcıların belirli yapay zekâ üretimlerini makine tarafından algılanabilir biçimde tanımlamasını gerektiriyor.

Şirket, Avrupa Birliği’yle sınırlı bölgesel bir uygulama yerine desteklenen Claude modellerinin sunulduğu her yerde aynı standardı kullanmayı tercih etti. Böylece API müşterileri, şirketler, geliştiriciler ve bireysel kullanıcılar için tek bir model düzeyi politikası oluşturuluyor. Bununla birlikte bazı platformlar veya özellikler her tür işaretlemeyi desteklemeyebilir.

Görünmez metin filigranı nasıl çalışıyor?

Teknik yöntem, modelin bir sonraki kelimeyi seçerken oluşturduğu istatistiksel örüntüye dayanıyor. Dil modelleri çoğu noktada bir cümleyi birkaç makul şekilde sürdürebilir. Filigran sistemi, bu tür düşük riskli seçimlerde kullanılan rastgelelik kaynağını değiştirerek yeterli sayıda kelime seçimi boyunca anahtarlı bir örüntü oluşturuyor. Anthropic, yaklaşımın Google DeepMind’ın SynthID-Text tekniğiyle ilişkili olduğunu belirtiyor.

Sonuçta metin gözle görülür biçimde değişmiyor. Sistem özel karakter eklemiyor, fazladan çıktı belirteçleri üretmiyor ve Anthropic’in açıklamasına göre üslubu, yaratıcılığı, okunabilirliği veya maliyeti anlamlı biçimde etkilemesi beklenmiyor. Şirket, kendi iç testlerinde kalite üzerinde bir etki görmediğini söylüyor.

İşaret, dosya metadatası gibi ayrı bir alanda değil, kelime seçimlerinin istatistiksel dağılımında bulunduğu için basit kopyala-yapıştır işlemlerinden, biçim değişikliklerinden ve bazı hafif düzenlemelerden sonra da tespit edilebilir durumda kalabiliyor. Ancak bu kalıcılık olasılıksal; garanti değil.

Çeviri, özetleme veya düzeltme filigranı yok eder mi?

Bunun kesin bir cevabı yok. Çeviri, özetleme, yeniden ifade etme ve kapsamlı düzenleme, filigranı taşıyan özgün kelime seçimlerinin önemli bir bölümünü değiştiriyor. Dönüştürülmüş bir metinde bazı izler kimi durumlarda kalabilir; ancak Anthropic’in açıklaması her çevirinin, özetin, redaksiyon işleminin veya düzenlemenin filigranı güvenilir biçimde koruduğu anlamına gelmiyor.

Kısa metinler de önemli bir sınırlama. Analiz edilecek metin uzadıkça tespit güveni genellikle artıyor. Yalnızca birkaç kelimesi Claude tarafından değiştirilmiş bir metin ya da kısa bir yanıt, anlamlı bir sonuç üretmek için yeterli Claude kaynaklı seçim içermeyebilir.

Bu nedenle filigranın metinde bulunmasıyla filigranın tespit edilebilmesi aynı şey değil. Bir metin Claude’dan geçirilmiş olabilir ancak güçlü bir pozitif sonuç vermeyebilir. Aynı şekilde filigran bulunamaması da metnin tamamen insan tarafından yazıldığını kanıtlamaz.

Pozitif tespit sonucu gerçekte ne anlama geliyor?

Pozitif sonuç, dar bir olasılık sorusuna yanıt verir: Claude’un metnin bir bölümünün yazımında rol almış olma ihtimali nedir?

Tek başına böyle bir sonuç şunları kanıtlamaz:

• Claude’a kimin komut verdiğini,
• metnin ilk taslağını veya geri kalanını kimin yazdığını,
• bir insanın çıktıyı ne ölçüde değiştirdiğini,
• belgenin tamamının Claude tarafından oluşturulduğunu,
• kullanıcının okul, iş yeri, yayıncılık veya platform kurallarını ihlal edip etmediğini,
• eserin sahibinin ya da hukuki sorumlusunun kim olduğunu.

Filigran belirli bir kullanıcıyı, kuruluşu veya sohbeti tanımlayamaz. Ayrıca Anthropic’in kullandığı anahtar, başka bir yapay zekâ sağlayıcısının ürettiği çıktıyı teşhis edemez.

Anthropic, ileride bir tespit API’si sunmayı planlıyor. Bu yaklaşım, dildeki varsayılan “yapay zekâ izlerini” arayan genel AI dedektörlerinden farklı olur. Filigran tespit aracı, yazarlık hakkında dilsel tahminde bulunmak yerine Claude üretimi sırasında oluşturulan kasıtlı istatistiksel imzayı arar.

Eleştiriler neden sistemi fazla geniş kapsamlı buluyor?

Tartışmanın merkezinde, yeni içerik üretmek ile sıradan editoryal yardım sağlamak arasındaki fark var. Eleştirmenler, model düzeyinde ve varsayılan olarak uygulanan bir filigranın tamamen insan tarafından yazılmış; yalnızca yazım, dil bilgisi, açıklık, çeviri veya erişilebilirlik desteği için Claude’dan yardım almış bir metni de aynı kategoriye sokabileceğini savunuyor.

Bu nedenle yaklaşım “neşter yerine balyoz” olarak nitelendiriliyor. Eleştiriye göre, şeffaflık kurallarının asıl hedeflediği yeni sentetik içerik üretimiyle birkaç yazım hatasının düzeltilmesi gibi farklı kullanım biçimleri aynı işaretle damgalanabiliyor. Sorun özellikle okul, işveren, yayıncı veya platformların filigranı otomatik olarak kötüye kullanım kanıtı sayması hâlinde büyüyor.

Anthropic’in teknik açıklaması, hafif düzeltme senaryolarındaki riski pratikte bir miktar sınırlıyor: Küçük bir redaksiyon, güvenilir tespit için yeterli sayıda Claude kaynaklı kelime seçimi bırakmayabilir. Ancak bu, kullanıcıya tanınmış bir istisna veya güvenilir bir yazarlık testi değil; yalnızca istatistiksel güvenin sınırlılığı.

Google, OpenAI, Meta ve Microsoft’la karşılaştırma

Karşılaştırma yapılırken çoğu zaman birbirine karıştırılan dört ayrı unsur ayrılmalı:

1. AB şeffaflık kurallarına ilişkin bir uygulama kodunu imzalamak,
2. Dosyalara provenans metadatası eklemek,
3. Görünür etiket kullanmak,
4. Metne istatistiksel filigran yerleştirmek.

Anthropic, diğer büyük yapay zekâ sağlayıcılarının da aynı AB kodunu imzaladığını ve kendi sistemlerini uygulayacağını söylüyor. Ancak bu, Google, OpenAI, Meta ve Microsoft’un aynı filigran tekniğini kullandığı, aynı ürünleri kapsadığı veya aynı tespit politikasını benimsediği anlamına gelmiyor.

Anthropic’in metin yaklaşımı, Google DeepMind’ın yayımladığı SynthID-Text ailesiyle ilişkiliyken C2PA, desteklenen dosyalarda provenans metadatası için ayrı olarak kullanılıyor. Mevcut kaynaklar, adı geçen dört şirketin tamamının Claude’a eşdeğer, küresel bir metin filigranını tüm metin ürünlerinde devreye aldığını söylemek için yeterli kanıt sunmuyor.

Kullanıcı tepkileri ve pratik politika sorunu

Duyuru, yapay zekâ kullanımının okulda, iş yerinde, yayıncılıkta veya ticari çalışmalarda açığa çıkmasından endişe eden Claude kullanıcılarının tepkisini çekti. Bazı kullanıcıların aboneliklerini iptal etmekle tehdit ettiği veya iptal ettiğini açıkladığına dair haberler yayımlandı.

Bazı kullanıcılar filigranı zayıflatma ya da atlatma yöntemlerini de araştırıyor. Anlamlı biçimde yeniden yazma, başka ifadeler kullanma, çeviri, özetleme veya metni yeniden ürettirme istatistiksel sinyali zayıflatabilir ya da ortadan kaldırabilir. Bu da negatif sonucun yapay zekâ kullanımını kesin olarak dışlamadığını gösteriyor. Tersine, metinde filigranın bulunması Claude’un yalnızca sınırlı bir katkı sunduğu bir senaryoyla da uyumlu olabilir.

Okullar, işverenler, yayıncılar ve platformlar için en güvenli yaklaşım şu: Filigran tespitini tek başına disiplin, intihal veya kötüye kullanım kararı saymamak. Böyle bir değerlendirmede metnin bağlamı, taslak ve sürüm geçmişi, geçerli açıklama kuralları, kullanılan yardımın türü ve kişinin kendini açıklama fırsatı dikkate alınmalı. Özellikle redaksiyon, çeviri, erişilebilirlik ve ortak yazım süreçlerinde insan incelemesi şart.

Claude’un filigranı yapay zekâ katkısını araştırmayı kolaylaştırabilir; ancak daha zor olan yazarlık sorusunu çözmez. Buradaki temel ayrım sinyal ile kanıt arasındaki farktır: Sinyal şeffaflığı destekleyebilir, fakat kanıt için filigranın sağlayamayacağı bağlam gerekir.