Bencana Nano Banana 2 Google: Bagaimana Penjana Imej AI Memusnahkan Kepercayaan Terhadap Imej Satelit dalam Masa 24 Jam

Contoh Imejan Satelit Palsu

Penyelidik dan wartawan dengan pantas menunjukkan bahaya dengan menghasilkan pemandangan satelit palsu yang meyakinkan, termasuk:

• Sebuah loji nuklear Iran kelihatan rosak atau diubah
• Pelarian di sempadan AS–Mexico (dicipta oleh penyelidik OSINT Belanda, Henk van Ess)
• Kemalangan kapal terbang di Amsterdam
• Kawah bom di Gaza
• Pulau Kharg Iran terbakar
• Menara Eiffel yang runtuh
• Kerosakan di Piramid Agung Giza

Palsu lain termasuk Capitol AS yang banjir, kawah letupan di Los Angeles, dan pemandangan protes .

Amaran Penyelidik

Henk van Ess, seorang penyelidik risikan sumber terbuka Belanda, memberitahu The Guardian bahawa alat itu "tidak menolak apa-apa"—ia menjana pelarian di sempadan Mexico, loji nuklear di Iran, dan pemandangan hospital Gaza tanpa sebarang penapisan kandungan . Beliau memberi amaran bahawa ciri itu secara asasnya menjejaskan kebolehpercayaan imejan satelit, yang selama ini menjadi alat penting untuk penyiasat sumber terbuka dan pemeriksa fakta .

Jake Godin dari Bellingcat memberitahu NPR bahawa alat itu boleh "memusnahkan secara asas kredibiliti imejan satelit sebagai bukti." Beliau menyatakan bahawa imej satelit secara sejarahnya antara bukti OSINT yang paling dipercayai, dan alat ini menjadikannya sangat mudah untuk mencipta palsu yang meyakinkan yang memerlukan usaha besar untuk disangkal .

Mengapa Tanda Air SynthID Gagal

Google telah membenamkan tanda air digital SynthID—kedua-dua label kelihatan dan metadata tidak kelihatan—ke dalam setiap imej Nano Banana 2. Syarikat itu pada mulanya memberitahu pengguna untuk memeriksa imej yang mencurigakan menggunakan Gemini atau Google Lens . Tetapi penyelidik mendapati beberapa kegagalan kritikal:

• Tanda air SynthID boleh dipotong atau ditanggalkan melalui tangkapan skrin atau penyimpanan semula yang mudah, mengalihkan metadata yang tidak kelihatan
• Tanda air hanya meliputi bahagian yang dijana AI, bukan imejan satelit asas, menjadikannya mudah untuk mendakwa imej itu "data satelit sebenar"
• Beberapa imej palsu lulus pemeriksaan pengesanan SynthID sepenuhnya, bermakna sistem tanda air tidak menandakannya sebagai janaan AI dengan pasti

TechTimes menggambarkan pelancaran itu sebagai "pembalikan produk AI paling pantas yang didorong oleh kegagalan keselamatan khusus"—penghalang yang dinamakan Google sebagai perlindungan utamanya langsung tidak menghalang penyebaran palsu tersebut .

Sebab Pengunduran Menurut Google

Google berkata ia menarik balik ciri tersebut selepas melihat "orang ramai berkongsi tangkapan skrin imejan janaan yang kelihatan melanggar dasar kami" . Syarikat itu menyatakan ia akan "menambah penghalang yang lebih kukuh" sebelum mempertimbangkan untuk mengeluarkan semula alat itu . Dalam kenyataan di X, Google menulis: "Kami mengambil serius maklumat salah—setiap imej yang dicipta dengan Nano Banana dalam Google Earth termasuk tanda air digital SynthID" . Tetapi kerosakan telah berlaku dalam beberapa jam.

Mengapa Ini Penting

Insiden ini menyerlahkan cabaran yang semakin meningkat untuk syarikat teknologi yang berlumba-lumba untuk mengintegrasikan AI generatif ke dalam produk yang dipercayai pengguna untuk maklumat fakta. Imejan satelit telah lama dianggap sebagai sumber bukti yang boleh dipercayai untuk wartawan, penyiasat hak asasi manusia, dan penyelidik sumber terbuka. Dengan memudahkan penciptaan palsu yang meyakinkan yang mewarisi kredibiliti jenama Google Earth, ciri Nano Banana 2 secara ringkasnya menukar alat pemetaan yang dipercayai menjadi enjin yang berpotensi untuk maklumat salah.

Google belum mengumumkan garis masa untuk mengeluarkan semula ciri tersebut.