Google'ın Nano Banana 2 Faciası: Yapay Zeka Görsel Üreticisi 24 Saatte Uydu Görüntülerine Olan Güveni Nasıl Sarstı?

Üretilen sahte uydu görüntülerinden örnekler

Araştırmacılar ve gazeteciler, tehlikenin boyutunu göstermek için hızla ikna edici sahte uydu sahneleri oluşturdular. Bunlar arasında şunlar yer aldı:

• Hasar görmüş veya değiştirilmiş bir İran nükleer tesisi
• ABD-Meksika sınırındaki mülteciler (Hollandalı OSINT araştırmacısı Henk van Ess tarafından oluşturuldu)
• Amsterdam'da bir uçak kazası
• Gazze'de bir bomba krateri
• Yanmakta olan İran'ın Hark Adası
• Yıkılmış bir Eyfel Kulesi
• Giza Piramitleri'nde hasar

Diğer sahte görüntüler arasında sular altında kalmış bir ABD Kongre Binası, Los Angeles'ta bir patlama krateri ve bir protesto sahnesi de vardı .

Araştırmacılar ne uyarısında bulundu?

Hollandalı açık kaynak istihbarat araştırmacısı Henk van Ess, The Guardian gazetesine yaptığı açıklamada aracın "hiçbir şeyi reddetmediğini" söyledi: herhangi bir içerik filtrelemesi olmadan Meksika sınırında mülteciler, İran'da bir nükleer santral ve Gazze'de bir hastane sahnesi oluşturdu . Van Ess, bu özelliğin uzun yıllardır açık kaynak araştırmacıları ve doğrulamacılar için kritik bir araç olan uydu görüntülerinin güvenilirliğini temelden sarstığı uyarısında bulundu .

Bellingcat'ten Jake Godin ise NPR'a verdiği röportajda aracın "uydu görüntülerinin delil olarak güvenilirliğini temelden yok edebileceğini" söyledi. Godin, uydu görüntülerinin tarihsel olarak en güvenilir OSINT delilleri arasında yer aldığını ve bu aracın, çürütülmesi ciddi çaba gerektirecek ikna edici sahteler oluşturmayı son derece kolaylaştırdığını belirtti .

SynthID filigranı neden başarısız oldu?

Google, Nano Banana 2 ile oluşturulan her görsele SynthID dijital filigranını (hem görünür etiketler hem de görünmez meta veriler) yerleştirmişti. Şirket başlangıçta kullanıcılara şüpheli görüntüleri Gemini veya Google Lens kullanarak kontrol etmelerini önermişti . Ancak araştırmacılar birkaç kritik zafiyet tespit etti:

• SynthID filigranı basit bir ekran görüntüsü veya yeniden kaydetme ile kırpılıp kaldırılabiliyor, böylece görünmez meta veriler yok oluyordu
• Filigran yalnızca yapay zeka tarafından oluşturulan kısımları kapsıyor, alttaki uydu görüntüsünü kapsamıyordu. Bu da bir görselin "gerçek uydu verisi" olduğunu iddia etmeyi kolaylaştırıyordu
• Üretilen bazı sahte görüntüler SynthID tespit kontrollerinden tamamen geçti, yani filigran sistemi onları güvenilir bir şekilde yapay zeka ürünü olarak işaretlemiyordu

TechTimes, bu olayı "belirli bir güvenlik hatası nedeniyle gerçekleşen en hızlı önemli yapay zeka ürünü geri dönüşü" olarak nitelendirdi. Google'ın birincil koruma olarak adlandırdığı önlem, sahte görüntülerin dolaşıma girmesini engelleyemedi .

Google'ın özelliği geri çekme gerekçesi

Google, özelliği, "politikalarımızı ihlal ediyor gibi görünen oluşturulmuş görsellerin ekran görüntülerini paylaşan kişiler" gördükten sonra kaldırdığını açıkladı . Şirket, aracı yeniden yayınlamayı düşünmeden önce "daha güçlü güvenlik önlemleri" ekleyeceğini belirtti . X hesabından yapılan açıklamada Google şu ifadeleri kullandı: "Dezenformasyonu ciddiye alıyoruz – Google Earth'te Nano Banana ile oluşturulan her görsel SynthID dijital filigranını içerir" . Ancak hasar saatler içinde oluşmuştu.

Bu neden önemli?

Bu olay, teknoloji şirketlerinin üretken yapay zekayı, kullanıcıların gerçek bilgi için güvendiği ürünlere entegre etme yarışında karşılaştıkları büyüyen bir zorluğu gözler önüne seriyor. Uydu görüntüleri uzun süredir gazeteciler, insan hakları araştırmacıları ve açık kaynak araştırmacıları için güvenilir bir delil kaynağı olarak kabul ediliyordu. Nano Banana 2 özelliği, Google Earth markasının güvenilirliğini miras alan ikna edici sahteler oluşturmayı kolaylaştırarak, güvenilir bir haritalama aracını kısa süreliğine potansiyel bir dezenformasyon motoruna dönüştürdü.

Google, özelliğin yeniden yayınlanması için henüz bir zaman çizelgesi açıklamadı.