尼泊爾政府要求 Meta 與 TikTok 加快處理災害假訊息,直接原因是 8 月 26 日特里蘇里河沿岸洪災爆發後,社交平台出現大量具誤導性、甚至可能造成實際傷害的內容。
這些內容包括偽造的「現場直播」洪水影片、把其他國家或過去災害的畫面重新標註為尼泊爾、血腥影像,以及附有捐款 QR Code 的可疑貼文。當局擔心,相關內容會干擾救援資訊流通,誤導災民與家屬,並將捐款引向未經驗證的對象。15
尼泊爾要求平台做什麼?
尼泊爾希望平台立即移除 AI 生成影片、挪用舊畫面、欺騙性貼文、血腥內容及詐騙捐款 QR Code。實際訴求不只是「移除」,也包括加快升級處理流程,以及改善演算法對尼泊爾語和災害類錯誤資訊的辨識能力,避免民眾舉報後仍要等待一至兩天。15
哪些洪災影片已被查出是假消息?
- AFP 發現,有人聲稱是尼泊爾洪災現場的影片,實際上分別來自印度喀拉拉邦山崩、印度北阿坎德邦過往洪災、巴基斯坦洪災,以及多年前智利巴塔哥尼亞冰川崩塌事件。2345
- AFP 也指出,另一段看似即時的洪水影片含有生成式影片常見的視覺瑕疵,因此判定為 AI 生成。1
- BBC Verify 則透過地理定位、衛星影像與影片來源追蹤,區分真實影像和遭到操弄的說法;BBC 另行分析了一段尼泊爾洪災病毒式影片,說明其為 AI 製作。1315
至於「OpenAI Verify 找到 Google SynthID 浮水印」的說法,應謹慎看待。SynthID 是 Google 的內容來源標記與浮水印技術,不是 OpenAI 的產品。即使偵測到浮水印,也只能在生成工具確實嵌入標記、且偵測器能可靠讀取的有限情況下,協助判斷檔案來源;它本身不能證明所有流傳影片的真偽。現有資料也不足以證實 Meta 或 OpenAI 曾就這批特定洪災影片發布正式調查結論。
AI 假影片有哪些可疑跡象?
目前報導提到的警訊包括:人物或物件在不同影格之間突然消失、建築物和車輛變形、洪水流向或碎屑移動不合常理,以及場景透視和幾何結構不合理。
不過,這些只能作為初步警示,並非百分之百可靠的判定方法。更穩妥的查證方式包括反向搜尋圖片或影片、追查最早發布者、進行地理定位,以及檢查檔案來源和內容來源資料。AFP 的調查便透過追蹤原始來源,證明多段廣傳影片早於這次尼泊爾災害便已出現。2345
為何假捐款資訊特別危險?
這場災害發生在尼泊爾—西藏邊境的真實且快速變化的救援情勢中。初步評估認為,冰川崩塌可能引發冰、岩石、泥土與洪水沿喜馬拉雅山區河道急速下泄;尼泊爾拉蘇瓦和努瓦科特是受創較嚴重的地區,基礎設施與聚落受到破壞。24113
在這種情況下,假 QR Code 不只是一般網路詐騙問題。它可能利用家屬與捐款人的焦慮,把資金從已驗證的救援機構手中轉走,也可能讓民眾無法分辨真正的撤離通知、失蹤者資訊和援助管道。加拿大已宣布提供 500 萬美元緊急人道援助,顯示國際援助也在同步展開。13
傷亡數字仍會變動
救援與搜救持續進行時,死亡及失蹤人數可能快速更新。路透社 8 月 28 日報導死亡人數接近 600 人、失蹤者接近 2,500 人;另一份更新則列出 579 人死亡、約 2,400 人失蹤,以及 3,742 人獲救。18
中國方面,較早報導提到西藏有 558 人失蹤,而不是 554 人。3 因此,題目所列的 553 至 579 人死亡、逾 1,900 人失蹤、逾 3,700 人獲救,以及中方 554 人失蹤,都可能是救援不同階段的中間統計,不能視為固定或最終數字。
目前可確認的是:尼泊爾政府是在真實災害與救援資訊需求極高之際,要求平台更快處理 AI 偽造內容、舊片冒用和捐款詐騙,而不是要限制所有洪災影像的流通。核心目標是讓可信的救援資訊更快抵達受災者,同時降低錯誤內容造成的二次傷害。