Aldatmaca Nasıl İnşa Edildi?

r/poisonai kampanyası, meşru bir haber olayı gibi görünmek için üç katmanlı sahte kanıt oluşturdu:

• Düzinelerce uydurma Reddit yas gönderisi: Birden çok başlıkta yaygın bir tartışma ve yas havası yaratıldı .
• Sahte Trump Truth Social ekran görüntüleri: Başkan'ın hesabından yapılmış gibi görünecek şekilde tasarlandı .
• WKNA News: Batı Virginia'da meşru bir yerel yayıncı kılığına girmiş bir "pembe sümük" sitesi . Site, 9-22 Haziran 2026 tarihleri arasında, "JD Vance'in ölümünün ardından kuduz farkındalığı vurgulanıyor" ve "J.D. Vance'in ölümü ve Beyaz Saray hastalığına ilişkin sorular" gibi başlıklarla çok sayıda uydurma makale yayınladı . AI, bu sayfaları güvenilir kaynaklar olarak gösterdi .

Hangi AI Sistemleri Kandırıldı?

DuckDuckGo'nun AI Arama Asistanı (Duck.ai), kullanıcılara Trump'ın 7 Haziran 2026'da kuduzdan öldüğünü ve Vance'in ondan önce vefat ettiğini güvenle söyledi . Sahte WKNA News makalelerini, Ohio'daki bir kuduz kurbanıyla ilgili alakasız bir ABC News makalesiyle birlikte "kanıt" olarak gösteren, eksiksiz ve kendinden emin bir yanıt kutusu üretti . Brave'in AI araması da aynı aldatmacaya kanarak uydurma anlatıyı tekrarladı .

Her iki AI sistemi de Reddit'ten ve sahte haber sitesinden ekilen içeriği aldı ve anlatı birden çok indekslenmiş kaynakta doğrulanmış göründüğü için bunu gerçek olarak sundu .

Neden İşe Yaradı: Cornell Tech WARP Saldırısı

Cornell Tech araştırmacılarından (Tingwei Zhang, Harold Trieu ve meslektaşları) Mayıs 2026'da arXiv'de yayınlanan bir ön baskı, r/poisonai tarafından kullanılan zafiyeti doğrudan açıklıyor . "Derin Araştırma Ajanları Kullanıcı Tarafından Oluşturulan İçerik Yoluyla Zehirlenebilir" başlıklı makale, WARP (Web Ajanı Alım Zehirlenmesi) adlı bir saldırıyı tanıtıyor .

Çalışmanın temel bulguları şunları içeriyor:

• Kullanıcı tarafından oluşturulan bir içerik sayfasına (Reddit, Wikipedia, Quora) yerleştirilen tek bir ~13 kelimelik zehirli pasaj, derin araştırma yapan bir AI ajanını saldırganın seçtiği içeriğe yönlendirmek için yeterlidir .
• Zehirli metin birden çok başlığa yayıldığında, kurgusal ürünler AI tarafından üretilen yanıtların %38-62'sinde göründü . Bir testte, tek bir Reddit başlığına yerleştirilen, "BananaCoin" adlı uydurma bir kripto parayı tanıtan 15 kelimelik bir cümle, AI ajanlarının onu gerçekmiş gibi önermesine neden oldu .
• Derin araştırma ajanları, tüm web sayfalarının %17-23'ünü kullanıcı tarafından oluşturulan içerik sitelerinden çeker ve bu da yoğun bir saldırı yüzeyi oluşturur . Sık sık alınan tek bir UGC sayfasını zehirleyen bir saldırgan, birçok ilgili sorguyu etkileyebilir .

Doğrudan Bağlantı

r/poisonai kampanyası, Cornell Tech makalesinin tanımladığı zafiyetin gerçek dünyadaki bir gösterimidir. Subreddit, aynı mekanizmayı silah haline getirdi: AI arama ajanları, kullanıcı tarafından oluşturulan içeriği geniş çapta alır ve onu yetkili kaynaklardan ayırt etmeden güvenir . AI araştırma ajanları, sorguların kabaca yarısında Reddit, düşük güvenilirlikli siteler ve forumları kaynak olarak kullandığından, birden çok başlıkta koordineli bir tohumlama kampanyası, AI'nın doğrulama olarak kabul ettiği bir fikir birliği görünümü yarattı .

Bu olay, Cornell Tech bulgusunun bir laboratuvar ürünü olmadığını kanıtlıyor: birden çok başlık ve pembe sümük sitesiyle ölçeklendirilen aynı 13 kelimelik zehirleme tekniği, milyonlarca kişi tarafından kullanılan üretim AI sistemlerini başarıyla tehlikeye attı .

Kalıcı Sorun

Aldatmaca, AI arama araçlarının, özellikle sahte içerik birden çok görünüşte bağımsız kaynakta çapraz yayınlandığında, gerçek kullanıcı tartışması ile koordineli dezenformasyon kampanyaları arasında güvenilir bir şekilde ayrım yapamaması nedeniyle başarılı oldu . WKNA News sitesi hala uydurma makaleleri barındırıyor ve bu zehirli içeriğin indekslenmiş web'de ne kadar kalıcı olduğunu gösteriyor . Hem DuckDuckGo hem de Brave olayı kabul etti, ancak altta yatan güvenlik açığı — AI ajanlarının UGC'yi yetkili olarak ele alması — mimari düzeyde yamalanmamış durumda .

Aldatmaca Nasıl İnşa Edildi?

r/poisonai kampanyası, meşru bir haber olayı gibi görünmek için üç katmanlı sahte kanıt oluşturdu:

• Düzinelerce uydurma Reddit yas gönderisi: Birden çok başlıkta yaygın bir tartışma ve yas havası yaratıldı .
• Sahte Trump Truth Social ekran görüntüleri: Başkan'ın hesabından yapılmış gibi görünecek şekilde tasarlandı .
• WKNA News: Batı Virginia'da meşru bir yerel yayıncı kılığına girmiş bir "pembe sümük" sitesi . Site, 9-22 Haziran 2026 tarihleri arasında, "JD Vance'in ölümünün ardından kuduz farkındalığı vurgulanıyor" ve "J.D. Vance'in ölümü ve Beyaz Saray hastalığına ilişkin sorular" gibi başlıklarla çok sayıda uydurma makale yayınladı . AI, bu sayfaları güvenilir kaynaklar olarak gösterdi .

Hangi AI Sistemleri Kandırıldı?

DuckDuckGo'nun AI Arama Asistanı (Duck.ai), kullanıcılara Trump'ın 7 Haziran 2026'da kuduzdan öldüğünü ve Vance'in ondan önce vefat ettiğini güvenle söyledi . Sahte WKNA News makalelerini, Ohio'daki bir kuduz kurbanıyla ilgili alakasız bir ABC News makalesiyle birlikte "kanıt" olarak gösteren, eksiksiz ve kendinden emin bir yanıt kutusu üretti . Brave'in AI araması da aynı aldatmacaya kanarak uydurma anlatıyı tekrarladı .

Her iki AI sistemi de Reddit'ten ve sahte haber sitesinden ekilen içeriği aldı ve anlatı birden çok indekslenmiş kaynakta doğrulanmış göründüğü için bunu gerçek olarak sundu .

Neden İşe Yaradı: Cornell Tech WARP Saldırısı

Cornell Tech araştırmacılarından (Tingwei Zhang, Harold Trieu ve meslektaşları) Mayıs 2026'da arXiv'de yayınlanan bir ön baskı, r/poisonai tarafından kullanılan zafiyeti doğrudan açıklıyor . "Derin Araştırma Ajanları Kullanıcı Tarafından Oluşturulan İçerik Yoluyla Zehirlenebilir" başlıklı makale, WARP (Web Ajanı Alım Zehirlenmesi) adlı bir saldırıyı tanıtıyor .

Çalışmanın temel bulguları şunları içeriyor:

• Kullanıcı tarafından oluşturulan bir içerik sayfasına (Reddit, Wikipedia, Quora) yerleştirilen tek bir ~13 kelimelik zehirli pasaj, derin araştırma yapan bir AI ajanını saldırganın seçtiği içeriğe yönlendirmek için yeterlidir .
• Zehirli metin birden çok başlığa yayıldığında, kurgusal ürünler AI tarafından üretilen yanıtların %38-62'sinde göründü . Bir testte, tek bir Reddit başlığına yerleştirilen, "BananaCoin" adlı uydurma bir kripto parayı tanıtan 15 kelimelik bir cümle, AI ajanlarının onu gerçekmiş gibi önermesine neden oldu .
• Derin araştırma ajanları, tüm web sayfalarının %17-23'ünü kullanıcı tarafından oluşturulan içerik sitelerinden çeker ve bu da yoğun bir saldırı yüzeyi oluşturur . Sık sık alınan tek bir UGC sayfasını zehirleyen bir saldırgan, birçok ilgili sorguyu etkileyebilir .

Doğrudan Bağlantı

r/poisonai kampanyası, Cornell Tech makalesinin tanımladığı zafiyetin gerçek dünyadaki bir gösterimidir. Subreddit, aynı mekanizmayı silah haline getirdi: AI arama ajanları, kullanıcı tarafından oluşturulan içeriği geniş çapta alır ve onu yetkili kaynaklardan ayırt etmeden güvenir . AI araştırma ajanları, sorguların kabaca yarısında Reddit, düşük güvenilirlikli siteler ve forumları kaynak olarak kullandığından, birden çok başlıkta koordineli bir tohumlama kampanyası, AI'nın doğrulama olarak kabul ettiği bir fikir birliği görünümü yarattı .

Bu olay, Cornell Tech bulgusunun bir laboratuvar ürünü olmadığını kanıtlıyor: birden çok başlık ve pembe sümük sitesiyle ölçeklendirilen aynı 13 kelimelik zehirleme tekniği, milyonlarca kişi tarafından kullanılan üretim AI sistemlerini başarıyla tehlikeye attı .

Kalıcı Sorun

Aldatmaca, AI arama araçlarının, özellikle sahte içerik birden çok görünüşte bağımsız kaynakta çapraz yayınlandığında, gerçek kullanıcı tartışması ile koordineli dezenformasyon kampanyaları arasında güvenilir bir şekilde ayrım yapamaması nedeniyle başarılı oldu . WKNA News sitesi hala uydurma makaleleri barındırıyor ve bu zehirli içeriğin indekslenmiş web'de ne kadar kalıcı olduğunu gösteriyor . Hem DuckDuckGo hem de Brave olayı kabul etti, ancak altta yatan güvenlik açığı — AI ajanlarının UGC'yi yetkili olarak ele alması — mimari düzeyde yamalanmamış durumda .