Bencana Nano Banana 2 Google: Bagaimana Generator AI Menghancurkan Kepercayaan pada Citra Satelit dalam 24 Jam

Contoh Citra Satelit Palsu yang Dibuat

Para peneliti dan jurnalis dengan cepat menunjukkan bahayanya dengan membuat pemandangan satelit palsu yang meyakinkan, termasuk:

• Fasilitas nuklir Iran yang tampak rusak atau berubah
• Pengungsi di perbatasan AS–Meksiko (dibuat oleh peneliti OSINT Belanda, Henk van Ess)
• Kecelakaan pesawat di Amsterdam
• Kawah bom di Gaza
• Pulau Kharg Iran terbakar
• Menara Eiffel runtuh
• Kerusakan di Piramida Agung Giza

Palsuan lainnya termasuk Gedung Capitol AS yang kebanjiran, kawah ledakan di Los Angeles, dan adegan protes .

Peringatan Para Peneliti

Henk van Ess, seorang peneliti intelijen sumber terbuka asal Belanda, mengatakan kepada The Guardian bahwa alat tersebut "tidak menolak apa pun"—alat itu menghasilkan gambar pengungsi di perbatasan Meksiko, pabrik nuklir di Iran, dan pemandangan rumah sakit di Gaza tanpa penyaringan konten apa pun . Ia memperingatkan bahwa fitur tersebut secara fundamental merusak kepercayaan pada citra satelit, yang selama bertahun-tahun menjadi alat penting bagi penyelidik sumber terbuka dan pemeriksa fakta .

Jake Godin dari Bellingcat mengatakan kepada NPR bahwa alat tersebut dapat "secara fundamental menghancurkan kredibilitas citra satelit sebagai bukti." Ia mencatat bahwa gambar satelit secara historis menjadi salah satu bukti OSINT yang paling tepercaya, dan alat ini membuatnya sangat mudah untuk membuat palsuan yang meyakinkan yang memerlukan upaya signifikan untuk dibantah .

Mengapa Watermark SynthID Gagal

Google telah menyematkan SynthID watermarks digital—baik label terlihat maupun metadata tak terlihat—ke dalam setiap gambar Nano Banana 2. Perusahaan tersebut awalnya memberi tahu pengguna untuk memeriksa gambar mencurigakan menggunakan Gemini atau Google Lens . Namun, para peneliti menemukan beberapa kegagalan kritis:

• Watermark SynthID dapat dipotong atau dihilangkan melalui tangkapan layar atau penyimpanan ulang sederhana, yang menghilangkan metadata tak terlihat
• Watermark hanya mencakup bagian yang dihasilkan AI, bukan citra satelit yang mendasarinya, sehingga mudah untuk mengklaim bahwa suatu gambar adalah "data satelit nyata"
• Beberapa gambar yang dibuat-buat sepenuhnya lolos dari pemeriksaan deteksi SynthID, artinya sistem watermark tidak dapat diandalkan untuk menandainya sebagai buatan AI

TechTimes menggambarkan peluncuran ini sebagai "pembalikan produk AI signifikan tercepat yang didorong oleh kegagalan keamanan spesifik"—pengaman yang disebut Google sebagai perlindungan utamanya tidak menghentikan peredaran palsuan tersebut .

Alasan Google Menarik Fitur

Google mengatakan pihaknya menarik fitur tersebut setelah melihat "orang-orang membagikan tangkapan layar dari gambar yang dihasilkan yang tampaknya melanggar kebijakan kami" . Perusahaan tersebut menyatakan akan "menambahkan pengaman yang lebih kuat" sebelum mempertimbangkan untuk merilis ulang alat tersebut . Dalam sebuah pernyataan di X, Google menulis: "Kami menganggap serius misinformasi—setiap gambar yang dibuat dengan Nano Banana di Google Earth menyertakan watermark digital SynthID" . Namun, kerusakan telah terjadi dalam hitungan jam.

Mengapa Ini Penting

Insiden ini menyoroti tantangan yang berkembang bagi perusahaan teknologi yang berlomba mengintegrasikan AI generatif ke dalam produk yang dipercaya pengguna untuk informasi faktual. Citra satelit telah lama dianggap sebagai sumber bukti yang dapat diandalkan bagi jurnalis, penyelidik hak asasi manusia, dan peneliti sumber terbuka. Dengan memudahkan pembuatan palsuan meyakinkan yang mewarisi kredibilitas merek Google Earth, fitur Nano Banana 2 untuk sementara mengubah alat pemetaan tepercaya menjadi mesin potensial untuk misinformasi.

Google belum mengumumkan jadwal untuk merilis ulang fitur tersebut.