尼泊尔政府要求Meta和TikTok采取行动,核心原因并不是普通的网络内容争议,而是灾难救援仍在进行时,社交平台上突然涌现了可能造成现实伤害的信息:伪造的“现场直播”洪灾视频、被误标为尼泊尔灾情的旧画面、血腥内容,以及带有诈骗性质的募捐二维码。15
平台被要求做什么?
尼泊尔方面希望平台立即删除AI生成的视频、循环传播的旧素材、欺骗性帖子、血腥内容和虚假募捐二维码,并建立更快的升级处理机制。有关部门还要求平台改善对尼泊尔语内容和灾害类虚假信息的自动识别,而不是在用户举报后仍等待一至两天才处理。15
这类内容在灾难现场尤其危险。它们可能制造错误的伤亡信息,诱导家属和公众转发未经证实的消息,也可能把原本准备捐给正规救援机构的资金引向诈骗账户。
哪些视频被证实并非尼泊尔洪灾画面?
核查结果显示,网上流传的部分视频与8月26日尼泊尔—西藏边境洪灾无关:
- 法新社发现,一段被称为尼泊尔洪灾现场的视频实际拍摄于印度喀拉拉邦山体滑坡;另一些画面则来自印度北阿坎德邦、巴基斯坦此前的洪灾,以及智利巴塔哥尼亚一场多年前的冰川崩塌事件。2345
- 法新社还判断,一段看似实时记录洪水的视频是AI生成的,因为画面中出现了生成式视频常见的视觉异常。1
- BBC Verify通过地理定位视频和卫星图像,将真实画面与被篡改或错误归因的说法区分开来;BBC还单独解释了其中一段尼泊尔洪灾病毒式传播视频为何属于AI生成内容。1315
需要谨慎看待“OpenAI Verify发现Google SynthID水印”这一说法。SynthID是谷歌开发的内容溯源和水印技术,并非OpenAI的技术。即使检测到水印,它通常也只能在生成工具确实嵌入水印、且检测系统能够可靠读取的情况下,帮助判断文件来源;水印本身不能证明所有正在传播的视频都属于同一来源。现有材料也不足以证明Meta或OpenAI曾就这些具体洪灾视频发布正式认定。
观看灾害视频时,哪些迹象值得警惕?
报道提到的可疑信号包括:人物或物体在相邻画面间突然消失,建筑物和车辆发生扭曲,水流或漂浮物的运动前后不一致,以及场景透视和空间关系不合常理。
不过,这些只是提示风险的线索,并非一锤定音的检测方法。更可靠的核查方式包括反向搜索图片或视频、寻找最早发布记录、进行地理定位,以及检查文件的来源和溯源数据。法新社正是通过追踪原始来源,确认多段广泛传播的素材早于此次尼泊尔灾害。2345
为什么这次信息污染格外危险?
洪灾发生在尼泊尔与西藏交界的喜马拉雅地区。初步评估认为,尼泊尔一侧的冰川崩塌可能引发了冰、岩石、泥沙和洪水组成的巨大冲击,随后沿河谷向下游推进。24尼泊尔拉苏瓦和努瓦科特等地受灾严重,居民点、道路、桥梁及其他基础设施遭到破坏。113
在这样的快速变化环境中,公众需要的是能够帮助他们判断安全、寻找亲友和捐助正规机构的信息。假视频和假二维码却会占用注意力、制造恐慌,并可能直接损害救援工作的效率。
加拿大已宣布提供500万加元紧急人道援助。13与此同时,伤亡统计仍随着搜救推进而变化。路透社8月28日报道称,死亡人数接近600人,约2500人失踪;另一份更新则提到579人死亡、约2400人失踪,已有3742人获救。18中国方面早期报道的西藏失踪人数为558人,而不是554人。3
因此,题目中出现的“553至579人死亡、超过1900人失踪、超过3700人获救,以及中方统计554人失踪”等数字,更适合被理解为不同时间点的阶段性统计,而不是稳定的最终总数。
现有材料还无法独立核实“天主教救济服务会(Catholic Relief Services)正与尼泊尔明爱(Caritas Nepal)协调此次救援”的具体说法。