Nepal ville stanse falske flomvideoer mens redningsaksjonen pågikk

Hvorfor ba Nepal plattformene gripe inn?

Oppfordringen kom mens redningsarbeidet fortsatt pågikk etter de dødelige flommene langs Trishuli-elven 26. august. En is- og steinlavine etter et sannsynlig brekollaps på nepalsk side ble vurdert som den utløsende årsaken til flombølgen. 24

I denne situasjonen spredte det seg innlegg som kunne gjøre en allerede kaotisk nødhjelp vanskeligere: fabrikerte «direkte» flomvideoer, gamle opptak som ble presentert som nye bilder fra Nepal, grafisk materiale og falske QR-koder for donasjoner. Nepal ba derfor Meta og TikTok om å fjerne innholdet raskt og forbedre den automatiske identifiseringen av nepalskspråklig og katastroferelatert feilinformasjon. 15

Det praktiske kravet var at plattformene skulle eskalere og behandle varsler raskere enn den rapporterte behandlingstiden på 24–48 timer – ikke at de skulle vente i én til to dager før de fjernet åpenbart villedende innhold.

Hvilke videoer var falske?

Faktasjekkere fant flere eksempler på at virale klipp var hentet fra helt andre katastrofer:

• AFP viste at et påstått flomopptak fra Nepal egentlig stammet fra et jordskred i Kerala i India. Andre klipp viste eldre flommer i Uttarakhand og Pakistan, samt en flere år gammel video av et brekollaps i chilensk Patagonia. 2345
• AFP identifiserte også et klipp som så ut til å være et sanntidsopptak, men som hadde visuelle feil typiske for generativ video. 1
• BBC Verify skilte autentiske, geolokaliserte opptak og satellittdata fra manipulerte påstander, og publiserte en egen gjennomgang av tegnene på at én viral Nepal-video var laget med AI. 1315

Påstander om at «OpenAI Verify» fant vannmerker fra Google SynthID, bør behandles med forsiktighet. SynthID er Googles teknologi for opprinnelsesmerking og vannmerking, ikke OpenAIs. Selv et påvist vannmerke kan bare si noe om filens opprinnelse i tilfeller der generatoren faktisk har lagt inn merket, og detektoren klarer å lese det. Det er ikke i seg selv et bevis på at alle videoer som sirkulerer, er ekte eller falske. Det tilgjengelige kildematerialet dokumenterer heller ikke et formelt funn fra Meta eller OpenAI om de aktuelle flomvideoene.

Tegn som kan avsløre AI-videoer

Rapporterte faresignaler er blant annet:

• personer eller gjenstander som forsvinner mellom bilder
• bygninger og kjøretøy med forvridde former
• vann eller vrakrester som beveger seg på en fysisk umulig måte
• geometri og perspektiv som ikke henger sammen

Dette er nyttige varsellamper, men ingen endelig test. Omvendt bildesøk og videosøk, sporing av det eldste innlegget, geolokalisering og informasjon om filens opphav gir vanligvis sterkere holdepunkter. I flere av AFPs undersøkelser var det nettopp kildesporing som viste at klippene var publisert før katastrofen i Nepal. 2345

Hvorfor kunne falske QR-koder gjøre skade?

En falsk QR-kode kan lede givere til en privat konto eller en svindelside i stedet for en verifisert hjelpeorganisasjon. Under en pågående katastrofe kan slike innlegg både tappe penger fra mennesker som ønsker å hjelpe, utnytte pårørende og forvirre dem som trenger informasjon om evakuering, savnede eller nødhjelp.

Materialet spredte seg særlig på Metas plattformer og TikTok, men gjenbrukte katastrofevideoer dukket også opp i andre deler av sosiale medier. Eksemplene fra India, Pakistan og Chile viser at innholdet ble resirkulert på tvers av landegrenser. Kildene gir derimot ikke et sikkert, fullstendig bilde av hvilke språk som ble brukt i all spredning.

Katastrofen var reell – tallene endret seg raskt

Feilinformasjonen traff et område som faktisk var rammet av en svært rask og omfattende katastrofe. Rasuwa og Nuwakot var blant de hardest rammede distriktene, og både bosettinger og infrastruktur ble ødelagt. 113

Dødstallene og tallet på savnede endret seg betydelig etter hvert som redningsmannskaper søkte gjennom området. Reuters meldte 28. august at dødstallet nærmet seg 600, mens nesten 2 500 fortsatt var savnet. En annen oppdatering oppga 579 døde, rundt 2 400 savnede og 3 742 reddede. 18

Kinesiske opplysninger om Tibet omtalte tidligere 558 savnede, ikke 554. 3 Tallene 553–579 døde, over 1 900 savnede og over 3 700 reddede bør derfor forstås som foreløpige tall fra ulike tidspunkter – ikke som et endelig samlet resultat.

Canada kunngjorde 5 millioner dollar i akutt humanitær støtte til Nepal. 13 Påstanden om at Catholic Relief Services koordinerte innsatsen sammen med Caritas Nepal, kan derimot ikke bekreftes på grunnlag av kildene som er tilgjengelige her.