ネパール政府がMetaとTikTokに対応を急ぐよう求めたのは、救助活動が続く最中に、現実の被害情報と偽情報が同じ画面上で競い合っていたためだ。政府は、ショッキングな画像、AI生成動画、過去の映像を現在の洪水として再投稿したコンテンツ、誤解を招く投稿、詐欺的な寄付用QRコードを、より速やかに削除するよう要請した。

背景には実務的な危険がある。偽の「ライブ映像」は住民を誤った情報に誘導し、偽の寄付呼びかけは正規の救援活動から資金を奪うおそれがある。ネパール側は、通報された投稿の削除にMetaとTikTokが24～48時間かかるケースがあると指摘し、対応時間の短縮を求めた。

ネパールがプラットフォームに求めたこと

要請は、問題の投稿を事後的に削除するだけではない。災害関連の通報をより早く担当部署へ回し、AI生成映像、古い映像を最新映像に見せかけた投稿、過度に刺激的な画像、偽の募金情報を効率的に見つける体制の改善を求めるものだった。

洪水や土砂災害の現場では、避難経路、救助地点、行方不明者の情報、確認済みの支援窓口が短時間で更新される。審査が遅れれば、誤情報は閲覧数を伸ばし、削除前に別のアカウントやサービスへ転載されてしまう。

ファクトチェッカーが確認した「偽の洪水映像」

SNS上では、実際の災害を伝える映像に、無関係な映像や生成映像が混在していた。

• AFPは、ネパール・チベット国境の洪水を撮影したとされた動画をAI生成と判定した。映像には、生成AI動画でよく見られる不自然な視覚的特徴があり、Googleの検出ツール「SynthID」もGoogleのAIソフトで作成された可能性を示した。1
• 多くの再生回数を集めた別の動画は、ネパールではなく、インド南部ケララ州で起きた地滑りの映像だった。AFPは、現場近くのレストランで撮影されたものだと追跡した。2
• 氷河が崩落する劇的な映像は、チリ・パタゴニアで撮影され、ネパールの洪水より前から出回っていた。3
• そのほか、インドのウッタラカンド州やパキスタンの洪水映像も、ネパールの被害として再利用されていた。45
• AAP FactCheckも、Facebookで拡散した画像や動画の一部について、AI生成または他国の災害を写したものだと結論づけた。

BBC Verifyは、確認済みの動画と衛星画像を使って実際の洪水が通った経路を検証した。またBBCは、拡散したネパール洪水動画の一つについて、AI生成を示す視覚的な手がかりを解説している。

「不自然に見える」だけでは偽物と断定できない

AI生成映像では、人物や物体がコマの途中で消える、建物や車が歪む、水や土砂の動きが一貫しない、空間の構造が現実にはあり得ないといった異常が現れることがある。しかし、こうした特徴はあくまで確認を始めるきっかけであり、それだけで偽物と証明できるわけではない。1

より確かな検証には、次のような手順が役立つ。

1. 最も早い投稿を探す。 8月26日より前に投稿された動画なら、今回の洪水を撮影した元映像ではない。
2. 逆画像検索や逆動画検索を行う。 過去の投稿から、本当の国名、災害、撮影日が分かる場合がある。
3. 地理的に照合する。 建物、道路、橋、山の稜線、川の流れを地図や衛星画像と比較する。
4. 複数の独立した報道と突き合わせる。 位置情報が確認された映像や衛星画像によって、現場が被災地域と一致するかを確かめる。
5. 出所情報の検出技術を過信しない。 SynthIDは、対応するGoogleのシステムで生成され、検出可能な情報が埋め込まれている場合には有用だが、すべての画像や動画を判定する万能な検査ではない。

なお、今回提供された証拠からは、特定の洪水動画についてMetaやOpenAIが正式に判定したことは確認できない。「OpenAI VerifyがGoogleのSynthID透かしを検出した」という主張は慎重に扱うべきだ。確認可能なAFPの報道が示しているのは、GoogleのSynthID検出ツールによる判定である。1

誤情報の背後にあった現実の災害

偽投稿が広がった一方で、ネパール・チベット国境では本物の大規模災害が起きていた。専門家と衛星画像の分析によれば、氷河の崩落、または氷と岩が一体となった雪氷・岩屑の崩落が、ヒマラヤの河川に大量の水、土砂、巨石を押し流した可能性が高い。影響はボテコシ川やトリシュリ川につながる流域に及んだ。1718

ネパール側では、ラ​​スワ郡とヌワコット郡が被災地域の一部となった。集落だけでなく、国境施設や水力発電関連のインフラも大きな被害を受けた。

救助隊ががれきを捜索するにつれ、死者と行方不明者の数は更新された。ロイターは8月28日時点で、ネパールの死者が少なくとも579人、チベット側が7人、ネパールで1,924人が行方不明だと報じた。別の更新では3,742人が救助されたとされ、中国側についてはそれ以前に558人が行方不明だと報じられていた。これらはそれぞれの報道時点の数字であり、最終確定値として扱うべきではない。

偽の寄付QRコードが危険な理由

偽のQRコードは、家族や地域社会、海外の支援者が被災者を助けようとしているタイミングで出回ったため、特に危険だった。ネパール政府は、偽の募金情報をMetaとTikTokへの要請に明確に含めた。

詐欺的な呼びかけが奪うのは寄付金だけではない。どの団体が正規の支援機関なのかを分かりにくくし、救助、支援、行方不明者に関する公式情報を探している人を混乱させる可能性もある。カナダ政府は、ネパールの救援対応に500万ドルの緊急人道支援を行うと発表した。

今回の問題が示すのは、災害時の誤情報が単に「動画が本物か偽物か」という話ではないということだ。誤った投稿は緊急通信を妨げ、人々の善意を悪用し、刻々と変わる死者数や救助情報の確認をさらに難しくする。危機下では、プラットフォームによる迅速な対応と、出所を透明に確認できる仕組みは、単なるコンテンツ管理上の要望ではなく、救援活動を支える実務上の条件になる。

ネパール政府がMetaとTikTokに対応を急ぐよう求めたのは、救助活動が続く最中に、現実の被害情報と偽情報が同じ画面上で競い合っていたためだ。政府は、ショッキングな画像、AI生成動画、過去の映像を現在の洪水として再投稿したコンテンツ、誤解を招く投稿、詐欺的な寄付用QRコードを、より速やかに削除するよう要請した。

背景には実務的な危険がある。偽の「ライブ映像」は住民を誤った情報に誘導し、偽の寄付呼びかけは正規の救援活動から資金を奪うおそれがある。ネパール側は、通報された投稿の削除にMetaとTikTokが24～48時間かかるケースがあると指摘し、対応時間の短縮を求めた。

ネパールがプラットフォームに求めたこと

要請は、問題の投稿を事後的に削除するだけではない。災害関連の通報をより早く担当部署へ回し、AI生成映像、古い映像を最新映像に見せかけた投稿、過度に刺激的な画像、偽の募金情報を効率的に見つける体制の改善を求めるものだった。

洪水や土砂災害の現場では、避難経路、救助地点、行方不明者の情報、確認済みの支援窓口が短時間で更新される。審査が遅れれば、誤情報は閲覧数を伸ばし、削除前に別のアカウントやサービスへ転載されてしまう。

ファクトチェッカーが確認した「偽の洪水映像」

SNS上では、実際の災害を伝える映像に、無関係な映像や生成映像が混在していた。

• AFPは、ネパール・チベット国境の洪水を撮影したとされた動画をAI生成と判定した。映像には、生成AI動画でよく見られる不自然な視覚的特徴があり、Googleの検出ツール「SynthID」もGoogleのAIソフトで作成された可能性を示した。1
• 多くの再生回数を集めた別の動画は、ネパールではなく、インド南部ケララ州で起きた地滑りの映像だった。AFPは、現場近くのレストランで撮影されたものだと追跡した。2
• 氷河が崩落する劇的な映像は、チリ・パタゴニアで撮影され、ネパールの洪水より前から出回っていた。3
• そのほか、インドのウッタラカンド州やパキスタンの洪水映像も、ネパールの被害として再利用されていた。45
• AAP FactCheckも、Facebookで拡散した画像や動画の一部について、AI生成または他国の災害を写したものだと結論づけた。

BBC Verifyは、確認済みの動画と衛星画像を使って実際の洪水が通った経路を検証した。またBBCは、拡散したネパール洪水動画の一つについて、AI生成を示す視覚的な手がかりを解説している。

「不自然に見える」だけでは偽物と断定できない

AI生成映像では、人物や物体がコマの途中で消える、建物や車が歪む、水や土砂の動きが一貫しない、空間の構造が現実にはあり得ないといった異常が現れることがある。しかし、こうした特徴はあくまで確認を始めるきっかけであり、それだけで偽物と証明できるわけではない。1

より確かな検証には、次のような手順が役立つ。

1. 最も早い投稿を探す。 8月26日より前に投稿された動画なら、今回の洪水を撮影した元映像ではない。
2. 逆画像検索や逆動画検索を行う。 過去の投稿から、本当の国名、災害、撮影日が分かる場合がある。
3. 地理的に照合する。 建物、道路、橋、山の稜線、川の流れを地図や衛星画像と比較する。
4. 複数の独立した報道と突き合わせる。 位置情報が確認された映像や衛星画像によって、現場が被災地域と一致するかを確かめる。
5. 出所情報の検出技術を過信しない。 SynthIDは、対応するGoogleのシステムで生成され、検出可能な情報が埋め込まれている場合には有用だが、すべての画像や動画を判定する万能な検査ではない。

なお、今回提供された証拠からは、特定の洪水動画についてMetaやOpenAIが正式に判定したことは確認できない。「OpenAI VerifyがGoogleのSynthID透かしを検出した」という主張は慎重に扱うべきだ。確認可能なAFPの報道が示しているのは、GoogleのSynthID検出ツールによる判定である。1

誤情報の背後にあった現実の災害

偽投稿が広がった一方で、ネパール・チベット国境では本物の大規模災害が起きていた。専門家と衛星画像の分析によれば、氷河の崩落、または氷と岩が一体となった雪氷・岩屑の崩落が、ヒマラヤの河川に大量の水、土砂、巨石を押し流した可能性が高い。影響はボテコシ川やトリシュリ川につながる流域に及んだ。1718

ネパール側では、ラ​​スワ郡とヌワコット郡が被災地域の一部となった。集落だけでなく、国境施設や水力発電関連のインフラも大きな被害を受けた。

救助隊ががれきを捜索するにつれ、死者と行方不明者の数は更新された。ロイターは8月28日時点で、ネパールの死者が少なくとも579人、チベット側が7人、ネパールで1,924人が行方不明だと報じた。別の更新では3,742人が救助されたとされ、中国側についてはそれ以前に558人が行方不明だと報じられていた。これらはそれぞれの報道時点の数字であり、最終確定値として扱うべきではない。

偽の寄付QRコードが危険な理由

偽のQRコードは、家族や地域社会、海外の支援者が被災者を助けようとしているタイミングで出回ったため、特に危険だった。ネパール政府は、偽の募金情報をMetaとTikTokへの要請に明確に含めた。

詐欺的な呼びかけが奪うのは寄付金だけではない。どの団体が正規の支援機関なのかを分かりにくくし、救助、支援、行方不明者に関する公式情報を探している人を混乱させる可能性もある。カナダ政府は、ネパールの救援対応に500万ドルの緊急人道支援を行うと発表した。

今回の問題が示すのは、災害時の誤情報が単に「動画が本物か偽物か」という話ではないということだ。誤った投稿は緊急通信を妨げ、人々の善意を悪用し、刻々と変わる死者数や救助情報の確認をさらに難しくする。危機下では、プラットフォームによる迅速な対応と、出所を透明に確認できる仕組みは、単なるコンテンツ管理上の要望ではなく、救援活動を支える実務上の条件になる。