喺 Google Earth 網頁版,用戶放大到任何一個地點之後,畫面會出現一個「Create image」按鈕。㩒落去、打個提示,Nano Banana 2 就會根據 Google 嘅衛星、航拍同 3D 影像資料,生成一幅超像真嘅圖片 。Google 當初話呢個係一個創意地理工具,但實際上等於俾任何人可以大規模偽造地理空間證據 。
假圖喺功能上線冇耐就湧現。用戶製造咗好多令人信以為真嘅假場景,包括洛杉磯出現爆炸坑、美國國會山莊被水浸、伊朗哈爾克島發生火災,最令專家擔心嘅係一幅假嘅伊朗核設施圖,同埋俄羅斯坦克駛入基輔嘅影像 。
BBC Verify 同 OSINT 研究員公開展示咗呢個風險。AI 研究員 Henk van Ess 同 BBC Verify 合作,成功製造咗一啲敏感地緣政治地點嘅假衛星圖,展示呢個工具可以有幾容易產生誤導性嘅影像 。
Google 直接承認咗呢個信任問題。喺撤回聲明入面,佢哋話:「我哋知道大家特別信任 Google Earth 可以俾到一個可靠嘅世界觀。我哋見到地理空間專業人士用呢個功能做咗一啲有用嘅嘢,但同時我哋亦見到有人分享違反政策嘅生成圖像。所以,我哋會撤回呢個功能,同時研究點樣加強保障措施。」
衛星圖像一直係開放源碼情報(OSINT)、人權調查同戰爭罪行記錄嘅金標準來源 。專家警告,直接將 AI 生成功能嵌入 Google Earth——呢個最受信賴嘅衛星地圖平台——可以從根本上破壞所有航空影像作為證據嘅可信性。
呢個功能模糊咗真同假之間嘅界線。因為啲 AI 圖係喺 Google Earth 入面生成,仲連結到真實嘅座標,所以佢哋帶有一種虛假嘅真實感,遠比普通社交媒體上嘅 AI 圖更難拆穿 。
人權調查人員依賴經過驗證嘅衛星圖像去記錄暴行、衝突破壞同環境罪行。如果連 Google Earth 自己嘅產出都可以被質疑,咁整個開放源碼調查嘅證據鏈就會受損,令到壞人更容易將真實嘅片段抹黑成 AI 生成 。
OSINT 社群形容呢件事係數碼證據嘅「信任危機」。OSINT 專業人士嘅快速反彈,係 Google 決定喺幾小時內撤回功能嘅主要原因 。
Google 指出,所有 AI 生成嘅圖像都內嵌咗 SynthID,一個專門標記 AI 生成內容嘅數碼水印 。但係研究員示範咗,檢測工具可以被騙到,而且截圖——假圖最常見嘅傳播方式——會完全甩走平台層面嘅水印同背景資料 。呢個辯解完全唔足以阻止功能上線幾小時內湧現嘅大量假圖。
呢件事係 Google 史上產品撤回得最快嘅其中一次,亦係一個警示:將生成式 AI 嵌入受信賴嘅資訊平台而缺乏足夠保障,可以有好大鑊嘅後果。對 OSINT 社群嚟講,呢個係一個強烈嘅警告:衛星圖像呢個現代數碼證據嘅基石,隨時可以因為一次產品發佈就被侵蝕 。