הביזיון של Nano Banana 2: איך גוגל ערערה את אמון הציבור בתמונות לוויין תוך יממה

זיופים נוספים כללו את הקפיטול המוצף, מכתש פיצוץ בלוס אנג'לס, וסצנת מחאה

מה הזהירו החוקרים

הנק ואן אס, חוקר מודיעין ממקורות פתוחים הולנדי, אמר ל-The Guardian שהכלי "לא סירב לדבר" – הוא יצר פליטים בגבול מקסיקו, כור גרעיני באיראן, וסצנת בית חולים בעזה ללא כל סינון תוכן . הוא הזהיר שהתכונה מערערת מהיסוד את מהימנות תמונות הלוויין, שבמשך שנים היו כלי קריטי עבור חוקרי OSINT ומאמתי עובדות .

ג'ייק גודין מ-Bellingcat אמר ל-NPR שהכלי יכול "להרוס לחלוטין את האמינות של תמונות לוויין כראיה." הוא ציין שתמונות לוויין היו מבחינה היסטורית אחת מראיות ה-OSINT המהימנות ביותר, והכלי הזה הפך את יצירת הזיופים המשכנעים לקלה עד כדי כך שדרוש מאמץ ניכר כדי להפריך אותן

למה סימני המים של SynthID נכשלו

גוגל הטמיעה את סימני המים הדיגיטליים SynthID – הן תוויות גלויות והן מטא-דאטה בלתי נראה – בכל תמונה שנוצרה על ידי Nano Banana 2. החברה אמרה בתחילה למשתמשים לבדוק תמונות חשודות באמצעות Gemini או Google Lens . אך חוקרים גילו כמה כשלים קריטיים:

• ניתן לחתוך או להסיר את סימני המים של SynthID באמצעות צילום מסך או שמירה חוזרת, מה שמסיר את המטא-דאטה הבלתי נראה
• סימן המים חל רק על החלקים שנוצרו ב-AI, לא על תמונות הלוויין הבסיסיות, מה שהקל לטעון שתמונה היא "נתוני לוויין אמיתיים"
• חלק מהתמונות המזויפות עברו את בדיקות הזיהוי של SynthID לחלוטין, כלומר מערכת סימני המים לא סימנה אותן באופן אמין כיצירות AI

TechTimes תיארה את ההשקה כ"היפוך המוצר המהיר ביותר בהיסטוריה של AI שהונע על ידי כשל בטיחותי ספציפי" – המחסום שגוגל הציגה כמגן העיקרי שלה פשוט לא מנע את הפצת הזיופים

הסיבה הרשמית של גוגל להסרה

גוגל אמרה שמשכה את התכונה לאחר שראתה "אנשים משתפים צילומי מסך של תמונות שנוצרו שנראות כמפרות את המדיניות שלנו" . החברה הצהירה שתצטרך "להוסיף מחסומים חזקים יותר" לפני שתשקול לשחרר מחדש את הכלי . בהצהרה ב-X, גוגל כתבה: "אנחנו לוקחים מידע מוטעה ברצינות – כל תמונה שנוצרה עם Nano Banana ב-Google Earth כוללת את סימן המים הדיגיטלי SynthID" . אך הנזק נעשה תוך שעות

למה זה חשוב

התקרית מדגישה אתגר הולך וגובר עבור חברות טכנולוגיה הממהרות לשלב AI גנרטיבי במוצרים שהמשתמשים סומכים עליהם לקבלת מידע עובדתי. תמונות לוויין נחשבו זה מכבר למקור ראיות אמין עבור עיתונאים, חוקרי זכויות אדם וחוקרי OSINT. בכך שהפכה את יצירת הזיופים המשכנעים לקלה – תוך ירושת האמינות של המותג Google Earth – תכונת Nano Banana 2 הפכה לזמן קצר כלי מיפוי מהימן למנוע פוטנציאלי להפצת מידע מוטעה

גוגל לא הודיעה על לוח זמנים לשחרור מחדש של התכונה

{{< article-footer >}}