Google Earth AI फीचर: Nano Banana 2 से सैटेलाइट तस्वीरों का भरोसा 24 घंटे में ध्वस्त

फर्जी सैटेलाइट इमेजरी के उदाहरण

शोधकर्ताओं और पत्रकारों ने तेजी से खतरे को प्रदर्शित करते हुए यथार्थवादी फर्जी सैटेलाइट दृश्य तैयार किए, जिनमें शामिल हैं:

• ईरान की एक परमाणु सुविधा क्षतिग्रस्त या परिवर्तित दिखाई दी
• अमेरिका-मेक्सिको सीमा पर शरणार्थी (डच OSINT शोधकर्ता हेन्क वैन एस द्वारा बनाया गया)
• एम्स्टर्डम में एक विमान दुर्घटना
• गाजा में एक बम विस्फोट का गड्ढा
• ईरान का खार्क द्वीप आग की चपेट में
• ढहा हुआ एफिल टॉवर
• गीज़ा के महान पिरामिड को नुकसान

अन्य नकली तस्वीरों में बाढ़ग्रस्त अमेरिकी कैपिटल, लॉस एंजिल्स में विस्फोट का गड्ढा और एक विरोध प्रदर्शन का दृश्य शामिल था ।

शोधकर्ताओं ने क्या चेतावनी दी?

हेन्क वैन एस (Henk van Ess), एक डच ओपन-सोर्स इंटेलिजेंस शोधकर्ता, ने द गार्जियन को बताया कि यह उपकरण 'कुछ भी मना नहीं करता' — इसने बिना किसी कंटेंट फ़िल्टरिंग के मैक्सिकन सीमा पर शरणार्थी, ईरान में एक परमाणु संयंत्र और गाजा के एक अस्पताल का दृश्य तैयार कर दिया । उन्होंने चेतावनी दी कि इस फीचर ने सैटेलाइट इमेजरी की विश्वसनीयता को मौलिक रूप से कमजोर कर दिया, जो वर्षों से ओपन-सोर्स अन्वेषकों और तथ्य-जांचकर्ताओं के लिए एक महत्वपूर्ण उपकरण रहा है ।

बेलिंगकैट (Bellingcat) के जेक गोडिन (Jake Godin) ने NPR को बताया कि यह उपकरण 'सैटेलाइट इमेजरी को सबूत के रूप में मौलिक रूप से नष्ट कर सकता है।' उन्होंने कहा कि सैटेलाइट छवियां ऐतिहासिक रूप से OSINT सबूतों के सबसे भरोसेमंद टुकड़ों में से एक रही हैं, और इस उपकरण ने ऐसी विश्वसनीय नकली तस्वीरें बनाना बहुत आसान बना दिया, जिन्हें खारिज करने में काफी मेहनत लगेगी ।

सिंथआईडी (SynthID) वॉटरमार्क क्यों विफल रहे?

Google ने हर Nano Banana 2 इमेज में SynthID डिजिटल वॉटरमार्क—दृश्यमान लेबल और अदृश्य मेटाडेटा दोनों—एम्बेड किए थे। कंपनी ने शुरू में उपयोगकर्ताओं को संदिग्ध छवियों की जांच करने के लिए Gemini या Google Lens का उपयोग करने को कहा था । लेकिन शोधकर्ताओं ने कई महत्वपूर्ण विफलताएं पाईं:

• SynthID वॉटरमार्क को क्रॉप या स्ट्रिप किया जा सकता है सरल स्क्रीनशॉट या री-सेव करने से, जिससे अदृश्य मेटाडेटा हट जाता है
• वॉटरमार्क केवल AI-जनित हिस्सों को कवर करता है, अंतर्निहित सैटेलाइट इमेजरी को नहीं, जिससे यह दावा करना आसान हो जाता है कि कोई छवि 'असली सैटेलाइट डेटा' है
• कुछ फर्जी छवियां SynthID डिटेक्शन जांच में पूरी तरह से पास हो गईं, जिसका अर्थ है कि वॉटरमार्क सिस्टम विश्वसनीय रूप से उन्हें AI-जनित के रूप में फ्लैग नहीं कर सका

TechTimes ने इस रोलआउट को 'किसी विशिष्ट सुरक्षा विफलता से प्रेरित सबसे तेज़ महत्वपूर्ण AI उत्पाद में बदलाव' बताया—Google द्वारा अपनी प्राथमिक सुरक्षा के रूप में नामित गार्डरेल फर्जी तस्वीरों को फैलने से नहीं रोक सका ।

Google द्वारा वापस लेने का बताया गया कारण

Google ने कहा कि उसने इस फीचर को हटा दिया क्योंकि उसने 'लोगों को जनित इमेजरी के स्क्रीनशॉट साझा करते देखा जो हमारी नीतियों का उल्लंघन करते प्रतीत होते हैं' । कंपनी ने कहा कि टूल को फिर से जारी करने पर विचार करने से पहले वह 'मजबूत गार्डरेल जोड़ेगी' । X पर एक बयान में, Google ने लिखा: 'हम गलत सूचना को गंभीरता से लेते हैं — Google Earth में Nano Banana के साथ बनाई गई हर छवि में SynthID डिजिटल वॉटरमार्क शामिल है' । लेकिन तब तक, कुछ ही घंटों में नुकसान हो चुका था।

यह क्यों मायने रखता है?

यह घटना टेक कंपनियों के लिए एक बढ़ती चुनौती को उजागर करती है जो जनरेटिव AI को उन उत्पादों में एकीकृत करने की होड़ में हैं, जिन पर उपयोगकर्ता तथ्यात्मक जानकारी के लिए भरोसा करते हैं। सैटेलाइट इमेजरी को लंबे समय से पत्रकारों, मानवाधिकार अन्वेषकों और ओपन-सोर्स शोधकर्ताओं के लिए सबूत का एक विश्वसनीय स्रोत माना जाता रहा है। विश्वसनीय नकली तस्वीरें बनाना आसान बनाकर जो Google Earth के ब्रांड की विश्वसनीयता विरासत में लेती हैं, Nano Banana 2 फीचर ने एक भरोसेमंद मैपिंग टूल को संभावित रूप से गलत सूचना के इंजन में बदल दिया।

Google ने फीचर को फिर से जारी करने की कोई समय-सीमा घोषित नहीं की है।