كارثة Nano Banana 2: كيف دمّر مولد صور بالذكاء الاصطناعي ثقة العالم في صور الأقمار الصناعية في يوم واحد

أمثلة على صور الأقمار الصناعية المختلقة

أظهر الباحثون والصحفيون بسرعة الخطر من خلال توليد مشاهد أقمار صناعية مزيفة مقنعة، بما في ذلك:

• منشأة نووية إيرانية تظهر تالفة أو معدلة
• لاجئون على الحدود الأمريكية المكسيكية (تم إنشاؤها بواسطة الباحث الهولندي في استخبارات المصادر المفتوحة Henk van Ess)
• تحطم طائرة في أمستردام
• حفرة قنبلة في غزة
• جزيرة خرج الإيرانية مشتعلة
• برج إيفل منهار
• أضرار في الهرم الأكبر بالجيزة

وشملت الصور المزيفة الأخرى مبنى الكابيتول الأمريكي مغمورًا بالمياه، وحفرة انفجار في لوس أنجلوس، ومشهد احتجاج .

ما حذر منه الباحثون

Henk van Ess، باحث هولندي في استخبارات المصادر المفتوحة، قال لصحيفة The Guardian إن الأداة "لم ترفض شيئًا" — فقد أنشأت لاجئين على الحدود المكسيكية، ومحطة نووية في إيران، ومشهد مستشفى في غزة دون أي تصفية للمحتوى . وحذر من أن الميزة قوضت بشكل أساسي مصداقية صور الأقمار الصناعية، والتي كانت لسنوات أداة حاسمة للمحققين ومدققي الحقائق في مجال المصادر المفتوحة .

Jake Godin من Bellingcat قال لـ NPR إن الأداة يمكن أن "تدمر بشكل أساسي مصداقية صور الأقمار الصناعية كدليل." وأشار إلى أن صور الأقمار الصناعية كانت تاريخيًا من بين أكثر أدلة المصادر المفتوحة موثوقية، وهذه الأداة جعلت من السهل جدًا إنشاء صور مزيفة مقنعة تتطلب جهدًا كبيرًا لدحضها .

لماذا فشلت العلامات المائية SynthID

كانت Google قد أدرجت علامات مائية رقمية SynthID — سواء كانت تسميات مرئية أو بيانات وصفية غير مرئية — في كل صورة من Nano Banana 2. أخبرت الشركة المستخدمين في البداية بفحص الصور المشبوهة باستخدام Gemini أو Google Lens . لكن الباحثين وجدوا العديد من الإخفاقات الحرجة:

• يمكن قص أو إزالة العلامات المائية SynthID عبر لقطات الشاشة البسيطة أو إعادة الحفظ، مما يزيل البيانات الوصفية غير المرئية
• تغطي العلامة المائية الأجزاء المولدة بالذكاء الاصطناعي فقط، وليس صور الأقمار الصناعية الأساسية، مما يسهل الادعاء بأن الصورة كانت "بيانات أقمار صناعية حقيقية"
• بعض الصور المختلقة اجتازت فحوصات كشف SynthID بالكامل، مما يعني أن نظام العلامات المائية لم يتمكن من تحديدها بشكل موثوق على أنها مولدة بالذكاء الاصطناعي

وصفت TechTimes هذا الإطلاق بأنه "أسرع تراجع كبير لمنتج ذكاء اصطناعي مدفوع بفشل محدد في السلامة" — الحاجز الآمن الذي ذكرته Google كحماية أساسية لها لم يمنع ببساطة تداول الصور المزيفة .

سبب Google المعلن للتراجع

قالت Google إنها سحبت الميزة بعد رؤية "أشخاص يشاركون لقطات شاشة لصور مولدة يبدو أنها تنتهك سياساتنا" . وأعلنت الشركة أنها ستُضيف "حواجز أمان أقوى" قبل التفكير في إعادة إصدار الأداة . في بيان على X، كتبت Google: "نحن نأخذ المعلومات المضللة على محمل الجد — كل صورة تم إنشاؤها باستخدام Nano Banana في Google Earth تتضمن العلامة المائية الرقمية SynthID" . لكن الضرر حدث في غضون ساعات.

لماذا هذا مهم

يسلط هذا الحادث الضوء على تحدٍ متزايد لشركات التكنولوجيا التي تتسابق لدمج الذكاء الاصطناعي التوليدي في المنتجات التي يثق بها المستخدمون للحصول على معلومات واقعية. لطالما اعتبرت صور الأقمار الصناعية مصدرًا موثوقًا للأدلة للصحفيين والمحققين في مجال حقوق الإنسان وباحثي المصادر المفتوحة. من خلال تسهيل إنشاء صور مزيفة مقنعة ترث مصداقية علامة Google Earth التجارية، حوّلت ميزة Nano Banana 2 أداة رسم خرائط موثوقة لفترة وجيزة إلى محرك محتمل للمعلومات المضللة.

لم تعلن Google عن جدول زمني لإعادة إصدار الميزة.