Fałszywe nagrania i QR-kody podczas katastrofy w Nepalu. Rząd zażądał szybszej reakcji platform

Co skłoniło Nepal do interwencji?

Apel nepalskiego rządu był reakcją na gwałtowny wzrost szkodliwych publikacji w czasie aktywnej akcji ratunkowej po katastrofalnej powodzi błyskawicznej z 26 sierpnia. W mediach społecznościowych krążyły spreparowane nagrania przedstawiane jako relacje „na żywo”, stare filmy podpisane jako materiały z Nepalu, drastyczne obrazy oraz apele o wpłaty z fałszywymi kodami QR. Takie treści mogły wprowadzać w błąd rodziny poszukujące bliskich, utrudniać przekazywanie informacji o ewakuacji i kierować datki do oszustów. 15

Władze zwróciły się do Mety — właściciela m.in. Facebooka i Instagrama — oraz TikToka o natychmiastowe usuwanie takich materiałów. Chodziło nie tylko o samą moderację, lecz także o szybsze przekazywanie zgłoszeń do odpowiednich zespołów i skuteczniejsze automatyczne wykrywanie dezinformacji w języku nepalskim oraz treści dotyczących katastrof. Według nepalskich władz zgłoszenia mogły czekać na reakcję od 24 do 48 godzin, co podczas szybko rozwijającej się katastrofy uznano za zbyt długo. 15

Jakie materiały okazały się fałszywe?

Śledztwa weryfikacyjne wykazały, że część najbardziej udostępnianych nagrań nie miała związku z powodzią w Nepalu:

• AFP ustaliła, że niektóre filmy pochodziły ze starszego osuwiska w Kerali w Indiach, wcześniejszych powodzi w Uttarakhandzie i Pakistanie oraz nagrania sprzed lat przedstawiającego załamanie lodowca w chilijskiej Patagonii. 2345
• Inny film rzekomo pokazujący powódź w czasie rzeczywistym został rozpoznany jako wygenerowany przez AI. Wskazywały na to charakterystyczne artefakty obrazu. 1
• BBC Verify oddzieliło autentyczne, możliwe do zlokalizowania nagrania i dowody satelitarne od zmanipulowanych twierdzeń. BBC opublikowało również analizę wyjaśniającą, po czym można rozpoznać, że jedno z viralowych nagrań powodzi w Nepalu powstało przy użyciu AI. 1315

Na co zwracać uwagę przy oglądaniu nagrania?

Wśród sygnałów ostrzegawczych wymieniano znikające między klatkami osoby lub przedmioty, zdeformowane budynki i pojazdy, nienaturalny przepływ wody, niespójny ruch gruzu oraz nierealistyczną geometrię sceny. To jednak tylko wskazówki, a nie rozstrzygający test.

Wiarygodniejsza weryfikacja obejmuje wyszukiwanie odwrotne obrazu lub filmu, ustalenie najwcześniejszej publikacji, geolokalizację oraz analizę danych pochodzenia pliku. W swoich materiałach AFP prześledziła źródła kilku nagrań i wykazała, że powstały przed katastrofą w Nepalu. 2345

Należy też ostrożnie podchodzić do twierdzeń, że „OpenAI Verify wykryło znaki wodne Google SynthID”. SynthID jest technologią oznaczania pochodzenia treści firmy Google, a nie OpenAI. Nawet wykryty znak wodny może potwierdzić pochodzenie pliku tylko w ograniczonych przypadkach — gdy generator go osadził, a narzędzie poprawnie go odczytało. Sam znak wodny nie jest dowodem dotyczącym każdego krążącego filmu. Dostępne materiały nie potwierdzają formalnego ustalenia Mety ani OpenAI w sprawie konkretnych nagrań z nepalskiej powodzi.

Dlaczego fałszywe kody QR były szczególnie groźne?

Podczas katastrofy wiele osób szuka jednocześnie informacji o ewakuacji, zaginionych i pomocy finansowej. Oszuści mogli wykorzystać ten chaos, publikując kody QR podszywające się pod zbiórki humanitarne. Takie kody mogły wyłudzać pieniądze od darczyńców, odciągać środki od zweryfikowanych organizacji i zwiększać zamieszanie wśród poszkodowanych.

Materiał rozprzestrzeniał się przede wszystkim na platformach należących do Mety i na TikToku, ale ponownie publikowane nagrania pojawiały się również w innych częściach ekosystemu mediów społecznościowych. Przykłady zebrane przez AFP pokazują transgraniczne kopiowanie materiałów z Indii, Pakistanu i Chile. Dostępne dowody wskazują na obieg wielojęzyczny, ale nie pozwalają wiarygodnie odtworzyć pełnej mapy rozpowszechniania według języków.

Dezinformacja pojawiła się w środku realnej katastrofy

Fałszywe treści zyskały zasięg, ponieważ odnosiły się do prawdziwego i szybko rozwijającego się dramatu. Powódź w rejonie granicy Nepalu i Tybetu najprawdopodobniej została wywołana przez załamanie części lodowca. Gwałtowna fala wody, lodu, skał i mułu przeszła przez systemy rzeczne Bhote Koshi i Trishuli. 24

Wśród najbardziej dotkniętych obszarów znalazły się nepalskie dystrykty Rasuwa i Nuwakot, gdzie zniszczone zostały osady i infrastruktura. 113 Liczby ofiar zmieniały się wraz z postępem poszukiwań. Reuters informował 28 sierpnia o liczbie zabitych zbliżającej się do 600 i niemal 2500 zaginionych; w innym zestawieniu podano 579 ofiar, około 2400 zaginionych i 3742 uratowane osoby. 18 Wcześniejszy przekaz dotyczący Tybetu mówił o 558 zaginionych, a nie o 554. 3

Oznacza to, że dane wskazywane w pytaniu — 553–579 ofiar śmiertelnych, ponad 1900 zaginionych, ponad 3700 uratowanych oraz 554 zaginionych po stronie chińskiej — można traktować jako pośrednie zestawienia z trwającej akcji, a nie ostateczny bilans.

W tym samym kontekście Kanada zapowiedziała 5 mln dolarów kanadyjskich pilnej pomocy humanitarnej dla Nepalu. 13 Dostępne źródła nie potwierdzają jednak niezależnie szczegółowej informacji, jakoby za koordynację tej konkretnej odpowiedzi odpowiadały Catholic Relief Services i Caritas Nepal.

Najważniejszy powód interwencji Nepalu był więc praktyczny: w czasie, gdy ratownicy poszukiwali zaginionych, a rodziny i darczyńcy potrzebowali wiarygodnych informacji, platformy społecznościowe stały się kanałem rozpowszechniania zarówno fałszywych obrazów katastrofy, jak i potencjalnych oszustw finansowych. Władze chciały, by Meta i TikTok reagowały szybciej, zanim szkodliwe materiały zdążą osiągnąć masowy zasięg.