救助活動のさなかに拡散したAI洪水動画と偽の寄付QRコード

なぜ政府は削除を急がせたのか

ネパール政府がMetaとTikTokに対応を求めたのは、トリスリ川流域で大規模な洪水が発生し、救助活動が続く緊迫した状況で、被災地に関する有害な投稿が一気に広がったためです。

拡散した投稿には、現地からの「ライブ映像」を装ったAI生成動画、別の国や過去の災害の映像をネパールの出来事として再投稿したもの、過度に刺激的な画像、そして寄付をだまし取る可能性のあるQRコードが含まれていました。政府は、こうした投稿をただちに削除するとともに、通報から対応までに報告されていた24〜48時間という時間を短縮するよう求めました。15

どのような対応を求めたのか

ネパール側の要請は、単にAI動画だけを対象にしたものではありません。対象には、次のような投稿が含まれます。

• AIで生成された洪水・救助映像
• 別の地域や過去の災害映像の使い回し
• 被災者や遺体を不必要に強調するグラフィックな画像
• 災害に便乗した虚偽・詐欺的な投稿
• 正規の救援団体を装う偽の寄付QRコード

また、ネパール語の投稿や、災害発生時に急増する特有の誤情報を自動的に見つける仕組みの改善も要請しました。つまり、利用者からの通報を待つだけでなく、プラットフォーム側が早期に検出し、緊急時の優先対応へ回すことが実務上の焦点でした。15

実際に確認された「偽の洪水映像」

AFPの検証では、ネパールの洪水だとされた映像の一部が、実際にはインド・ケララ州の地滑り、インド・ウッタラカンドやパキスタンで過去に起きた洪水、さらにチリ・パタゴニアで数年前に撮影された氷河崩壊の映像でした。2345

AFPはまた、リアルタイムの洪水映像として投稿された動画について、生成AI動画に特徴的な視覚的な破綻があるとして、AI生成と判断しました。1

BBC Verifyは、位置情報で確認できる映像や衛星画像を使い、実際の被害の経路と、加工・誤表示された主張を切り分けました。BBCは別の検証記事でも、拡散したネパール洪水動画がAIで作られたと説明しています。1315

一方、「OpenAI VerifyがGoogleのSynthID透かしを発見した」という主張は、慎重に扱う必要があります。SynthIDはGoogleの来歴確認・透かし技術であり、OpenAIの技術ではありません。仮に透かしを検出できたとしても、それが示せるのは、生成ツールが透かしを埋め込み、検出側が正しく読み取れた場合のファイルの出所に限られます。ネット上で流通するすべての動画がAI生成だと証明するものではなく、提供された資料から、特定の洪水動画についてMetaまたはOpenAIが公式に判定した事実も確認できません。

動画を見るときの注意点

報告されている不自然な特徴には、次のようなものがあります。

• フレームが変わると人や物が突然消える
• 建物や車両の形がゆがむ
• 水の流れやがれきの動きが場面ごとに食い違う
• 遠近感や地形のつながりが不自然

ただし、これらはあくまで警戒すべきサインであり、決定的な判定方法ではありません。より確かな確認には、逆画像・逆動画検索、最初の投稿の追跡、撮影場所の特定、メタデータやコンテンツ来歴の確認が役立ちます。AFPは、複数の映像がネパールの洪水発生より前に投稿されていたことを突き止め、使い回しを検証しました。2345

なぜ偽情報の影響が大きかったのか

今回の偽情報は、ネパールとチベット自治区の境界付近で実際に発生した、極めて速い進行の災害に重なりました。専門家や当局の初期評価では、氷河の一部が崩落し、岩・氷・泥・がれきが河川系へ流れ込んだことが洪水の引き金になった可能性が高いとされています。24

ネパール側では、ラスワ郡やヌワコット郡などが大きな被害を受け、集落やインフラが壊滅的な打撃を受けました。113被害が拡大し、安否不明者の情報が錯綜する状況では、古い映像や捏造された「現地情報」が、本物の救助要請や避難情報を埋もれさせる危険があります。

偽の寄付QRコードも同様です。被災者や遺族、支援しようとする人の不安につけ込み、正規の救援機関から資金を奪う可能性があります。また、寄付先だけでなく、避難場所、行方不明者、救援物資に関する情報まで混乱させかねません。

被害者数は報道時点で確認する必要がある

救助・捜索活動が続く中、死者数と行方不明者数は大きく変動しました。ロイターは8月28日、死者数が600人近くに達し、行方不明者が約2,500人に上ったと報じました。一方、別の更新では死者579人、行方不明者約2,400人、救助者3,742人とされています。18

中国側についても、初期報道ではチベットでの行方不明者数を554人とする情報がありましたが、別の報道では558人とされています。37そのため、質問に示された「死者553〜579人、行方不明者1,900人超、救助者3,700人超、中国側の行方不明者554人」という数字は、途中経過としては報道と整合しますが、確定した最終集計ではありません。

カナダ政府は、ネパールの救援活動に500万カナダドルの緊急人道支援を発表しました。13支援が集まる局面だからこそ、寄付先は公式サイトや認証済みの救援機関を通じて確認し、SNSで拡散されたQRコードだけを根拠に送金しないことが重要です。

なお、カトリック・リリーフ・サービスがカリタス・ネパールと連携して対応を調整しているという個別の主張については、提供された資料から独立して確認できません。