גוגל השיקה כלי AI ליצירת תמונות לוויין ב-Google Earth - והורידה אותו תוך פחות מיממה

מה הכלי עשה

לחצן "צור תמונה" הופיע ב-Google Earth בגרסת הדפדפן. לאחר התקרבות למיקום כלשהו, משתמשים יכלו ללחוץ על הכפתור, להקליד תיאור, ו-Nano Banana 2 היה מחזיר תמונה פוטו-ריאליסטית שנבנתה מנתוני הלוויין, האוויר והתלת-ממד של אותו מיקום מדויק . גוגל הציגה זאת ככלי יצירתי לגיאוגרפיה, אך בפועל הכלי איפשר לכל אחד לזייף ראיות גיאו-מרחביות בהיקף נרחב .

מדוע הכלי הוסר

זיופים המפרים את המדיניות הופיעו באופן מיידי. משתמשים יצרו תמונות משכנעות של מכתש פיצוץ בלוס אנג'לס, הצפה של בניין הקפיטול בוושינגטון, שריפה במתקן הנפט של איראן באי חארג — והמדאיג ביותר עבור מומחים: תמונה מזויפת של כור גרעיני באיראן וטנקים רוסיים מתגלגלים בקייב .

BBC Verify וחוקרי OSINT הדגימו את הסיכון בפומבי. חוקר ה-AI Henk van Ess ו-BBC Verify יצרו תמונות לוויין מזויפות של מיקומים גיאו-פוליטיים רגישים, והראו באיזו קלות הכלי יכול לייצר תמונות מטעות שנראות אותנטיות .

גוגל הודתה בבעיית האמון ישירות. בהצהרת הביטול שלה, אמרה החברה: "אנחנו יודעים שאנשים סומכים על Google Earth באופן ייחודי כמקור אמין לתצוגה של העולם. ראינו אנשי מקצוע גיאו-מרחביים משתמשים בכלי זה למגוון מטרות שימושיות", אך ציינה שהיא "מושכת את הכלי מ-Google Earth בזמן שאנחנו עובדים על יישום אמצעי הגנה חזקים יותר" .

משבר האמון של OSINT

תצלומי לוויין היוו מקור מוזהב למודיעין ממקורות פתוחים (OSINT), חקירות זכויות אדם ותיעוד פשעי מלחמה. מומחים הזהירו כי הטמעת יצירת AI ישירות לתוך Google Earth — פלטפורמת מיפוי הלוויין המהימנה ביותר — עלולה לערער באופן יסודי את אמינותם של כל תצלומי האוויר כראיה .

הכלי טשטש את הגבול בין אמיתי למזויף במקור. מכיוון שתמונות ה-AI נוצרו בתוך Google Earth עצמו וקשורות לקואורדינטות אמיתיות, הן נשאו הילת אותנטיות כוזבת שקשה הרבה יותר להפריך מאשר תמונת AI גנרית המשותפת ברשתות החברתיות .

חוקרי זכויות אדם מסתמכים על תצלומי לוויין מאומתים כדי לתעד זוועות, נזקי סכסוך ופשעים סביבתיים. אם אפילו הפלט של Google Earth עצמו יוטל בספק, כל שרשרת הראיות לחקירות ממקורות פתוחים תיפגע, ויהיה קל יותר לגורמים עוינים להכחיש צילומים אמיתיים כנוצרים על ידי AI .

קהילת OSINT תיארה את האירוע כ"משבר אמון" לראיות דיגיטליות. התגובה המהירה מצד אנשי OSINT הייתה גורם מרכזי בהחלטת גוגל לחזור בה תוך שעות .

ההגנה של גוגל ומגבלותיה

גוגל ציינה כי כל תמונות ה-AI סומנו בטכנולוגיית SynthID, סימן מים דיגיטלי שנועד לסמן תוכן שנוצר על ידי AI . עם זאת, חוקרים הוכיחו שניתן להטעות את כלי הזיהוי וכי צילומי מסך — הדרך הנפוצה ביותר להפצת תמונות מזויפות — מסירים כל סימן מים או הקשר פלטפורמתי . ההגנה לא הספיקה כדי למנוע את מבול הזיופים המשכנעים שהופיעו תוך שעות מהשקת הכלי.

השלכות רחבות יותר

האירוע מייצג את אחד הביטולים המהירים בתולדות גוגל ומקרה מבחן לסכנות הטמונות בשילוב AI גנרטיבי בפלטפורמות מידע מהימנות ללא אמצעי הגנה מתאימים. עבור קהילת OSINT, זה היה אזהרה ברורה שאמינותם של תצלומי לוויין — אבן פינה של ראיות דיגיטליות מודרניות — עלולה להישחק בהשקת מוצר אחת .