點解當局要平台即時處理?
尼泊爾政府提出要求,係因為特里蘇里河沿岸發生洪災、救援仍然進行緊嗰段時間,社交平台突然出現大量有害內容:有人用 AI 整造「現場」洪水片,有人將其他地方嘅舊片重新包裝成尼泊爾災情,亦有人散播血腥畫面及附有假捐款 QR Code 嘅帖文。呢啲內容唔只係誤導觀眾,仲可能令救援資訊更難傳開,甚至令捐款流向冒牌渠道。15
尼泊爾要求 Meta 同 TikTok 加快處理速度,唔好等到用戶舉報後 24 至 48 小時先有行動;同時改善針對尼泊爾語內容,以及災難相關假資訊嘅自動識別同升級處理機制。15
邊啲片段被查出係假?
AFP 嘅核查發現,網上聲稱係尼泊爾洪災現場嘅影片,實際上包括:
- 印度喀拉拉邦山泥傾瀉嘅舊片;
- 印度北阿坎德邦及巴基斯坦過往洪災嘅畫面;
- 智利巴塔哥尼亞一段多年前嘅冰川崩塌影片。2345
AFP 亦確認,其中一段被包裝成即時洪災畫面嘅短片係 AI 生成。片中可見生成式影片常見嘅視覺異常,例如畫面細節前後唔一致。1
BBC Verify 就透過已確認地點嘅現場影片及衛星影像,分辨出真正災情同遭誤用或篡改嘅內容;BBC 亦另外分析一段尼泊爾洪災病毒式影片,解釋點解可以判斷佢係 AI 製作。1315
睇到疑似 AI 災難片,可以留意咩?
常見警號包括:
- 人或者物件喺唔同畫格之間突然消失;
- 建築物、車輛或者人體輪廓扭曲;
- 水流、泥石或雜物移動方向前後矛盾;
- 場景比例、道路同建築物位置唔合乎現實幾何。
不過,呢啲只係提示,唔係百分百證據。較可靠嘅做法係反向搜尋圖片或影片、追查最早發布時間、核對地理位置,以及查看影片來源或來源證明資料。AFP 嘅調查正正透過追溯來源,證明多段廣傳影片早喺尼泊爾今次災難之前已經出現。2345
至於「OpenAI Verify 發現 Google SynthID 水印」呢個講法,就要小心處理。SynthID 係 Google 嘅來源追蹤及水印技術,唔係 OpenAI 嘅技術。即使偵測到水印,最多只可以喺生成工具有嵌入水印、而偵測器亦能可靠讀取嘅情況下,有限度推斷檔案來源;單靠水印,唔能夠證明所有流傳影片嘅真偽。現有提供嘅搜尋證據,亦未能證實 Meta 或 OpenAI 曾就相關洪災影片作出正式判定。
假 QR Code 點解特別危險?
災難期間,家屬可能急住搵失蹤親人,災民需要撤離,而世界各地捐款人亦想盡快幫手。假捐款帖文同 QR Code 可以利用呢種急切心情,將善款轉移至未經核實嘅個人或組織,亦可能令市民誤信錯誤嘅撤離、尋人或援助安排。
因此,當局要求平台處理嘅唔只係 AI 影片,仲包括冒充現場嘅舊片、欺騙性帖文、血腥內容,以及假捐款 QR Code;重點係更快升級處理同更準確識別,而唔係單純增加內容審查數量。15
真實災情同數字仍然不斷更新
今次洪災發生喺尼泊爾與西藏交界附近嘅喜馬拉雅山區。初步評估指,一段冰川崩塌後引發冰、岩石、泥土同洪水急速衝入河流系統,並沿特里蘇里河等河道造成嚴重破壞。24 尼泊爾嘅拉蘇瓦及努瓦科特係受災較重地區,基建同聚落均受到嚴重破壞。113
傷亡數字會隨搜索及救援進展快速變動,閱讀時一定要留意報道日期。路透社 8 月 28 日報道,死亡人數接近 600 人,約 2,500 人失蹤;另一份更新則列出 579 人死亡、約 2,400 人失蹤及 3,742 人獲救。18 較早嘅中國方面報道則指西藏有 558 人失蹤,而唔係 554 人。3
所以,題目提到嘅 553 至 579 人死亡、逾 1,900 人失蹤、逾 3,700 人獲救,以及中方 554 人失蹤,都可以視為救援期間嘅階段性數字,唔應該當成最終統計。
加拿大其後宣布提供 500 萬美元緊急人道援助。13 不過,現有資料未能獨立核實「天主教救援服務」正與尼泊爾 Caritas 協調今次救援嘅具體講法。面對募捐訊息,較安全做法係透過政府、國際組織或已確認嘅救援機構官方渠道核對,而唔好只掃描社交平台帖文入面嘅 QR Code。