Waarom Nepal Meta en TikTok tot actie maande tegen nepvideo’s na de dodelijke overstroming

De oproep van de Nepalese regering kwam op een moment waarop reddingswerkers nog volop bezig waren met het zoeken naar slachtoffers en vermisten. Na de dodelijke overstromingen van 26 augustus langs de Trishuli-rivier verschenen op sociale media steeds meer misleidende berichten: zogenaamd livebeeld dat in werkelijkheid door kunstmatige intelligentie was gemaakt, oude video’s die opnieuw als Nepal werden gedeeld, schokkende beelden zonder duidelijke herkomst en QR-codes voor frauduleuze inzamelingen.

Nepal vroeg Meta — het moederbedrijf van onder meer Facebook en Instagram — en TikTok om dergelijk materiaal onmiddellijk te verwijderen. Ook wilde het land dat meldingen niet pas na de gemelde termijn van 24 tot 48 uur werden behandeld. Daarnaast drong Nepal aan op betere automatische detectie van desinformatie in het Nepalees en op systemen die rekening houden met de specifieke kenmerken van rampenberichtgeving. 15

Welke inhoud moest verdwijnen?

De autoriteiten richtten zich op:

• AI-gegenereerde video’s die als livebeelden van de overstroming werden gepresenteerd;
• oud beeldmateriaal uit andere landen dat van een nieuw Nepalees label was voorzien;
• misleidende berichten en grafische beelden;
• QR-codes die donaties naar niet-geverifieerde of frauduleuze kanalen konden leiden. 15

Het ging dus niet alleen om de vraag of een video echt of nep was. Tijdens een actieve ramp is ook de context van belang: een authentieke video uit een ander land kan alsnog misleidend zijn wanneer kijkers denken dat het om de actuele situatie in Nepal gaat.

Beelden kwamen uit India, Pakistan en Chili

Onderzoek van AFP wees uit dat verschillende veel gedeelde video’s niet tijdens deze ramp waren gemaakt. Een fragment bleek afkomstig van een oudere aardverschuiving in Kerala, India. Andere beelden waren eerder gebruikt bij overstromingen in Uttarakhand en Pakistan, of toonden een gletsjerinstorting in Patagonië, Chili. 2345

AFP identificeerde daarnaast een video die als actueel overstromingsbeeld werd verspreid, maar kenmerken van AI-generatie vertoonde. 1 BBC Verify legde intussen uit welke beelden met behulp van geolocatie en satellietbeelden konden worden bevestigd en waarom een ander viraal fragment door AI was gemaakt. 1315

Waarop kunnen kijkers letten?

Onderzoekers noemden verschillende mogelijke waarschuwingssignalen:

• mensen of voorwerpen die tussen beeldjes lijken te verdwijnen;
• gebouwen en voertuigen met vervormde vormen;
• water of puin dat onnatuurlijk beweegt;
• een onwaarschijnlijke ruimtelijke opbouw van het beeld.

Dit zijn nuttige aanwijzingen, maar geen sluitend bewijs. Een omgekeerde zoekopdracht naar beeld of video, het terugvinden van de eerste publicatie, geolocatie en beschikbare herkomstinformatie zijn betrouwbaardere manieren om materiaal te controleren. In meerdere gevallen kon AFP aantonen dat de beelden al vóór de ramp in Nepal online stonden. 2345

Ook claims over zogenoemde ‘OpenAI Verify’-controles en Google SynthID moeten voorzichtig worden geïnterpreteerd. SynthID is een technologie van Google voor herkomstmarkering en watermerken, niet van OpenAI. Een herkenbaar watermerk kan in beperkte gevallen iets zeggen over de herkomst van een bestand, maar alleen wanneer de maker het daadwerkelijk heeft ingebouwd en de detector het betrouwbaar kan uitlezen. Het is op zichzelf geen bewijs over alle video’s die online circuleren. De beschikbare informatie onderbouwt geen formele bevinding van Meta of OpenAI over de specifieke overstromingsvideo’s.

Waarom waren QR-codes extra gevaarlijk?

De misleidende berichten verschenen tijdens een echte en snel veranderende ramp. Een instorting van een gletsjer werd aangewezen als waarschijnlijke oorzaak van de vloedgolf met water, ijs, modder en puin langs de rivier. 24 Vooral delen van de Nepalese districten Rasuwa en Nuwakot werden zwaar getroffen; infrastructuur en nederzettingen raakten verwoest. 113

Frauduleuze QR-codes konden in die omstandigheden geld wegleiden van gecontroleerde hulporganisaties. Ze konden ook nabestaanden en donateurs uitbuiten en mensen verwarren die informatie zochten over evacuaties, vermiste personen of noodhulp. De beschikbare bronnen bevestigen niet onafhankelijk de specifieke bewering dat Catholic Relief Services de hulpoperatie samen met Caritas Nepal coördineerde.

Aantallen veranderden tijdens de reddingsoperatie

De slachtoffercijfers waren niet stabiel omdat zoek- en bergingswerk nog doorging. Reuters meldde op 28 augustus dat het dodental de 600 naderde en dat bijna 2.500 mensen werden vermist. Een andere update noemde 579 doden, ongeveer 2.400 vermisten en 3.742 geredde personen. 18 Eerdere berichtgeving uit China sprak over 558 vermisten in Tibet, niet over 554. 3

Daarom kunnen aantallen als 553 tot 579 doden, meer dan 1.900 vermisten, ruim 3.700 geredden en 554 vermisten aan Chinese zijde tussentijdse schattingen zijn, maar geen definitieve eindstand. Canada kondigde intussen 5 miljoen dollar aan voor dringende humanitaire hulp aan Nepal. 13

De kern van de oproep aan Meta en TikTok was daarmee praktisch: tijdens een noodsituatie moeten platforms aantoonbaar vals of frauduleus materiaal sneller verwijderen, terwijl gebruikers voorzichtig blijven met beelden en donatieverzoeken die zij niet onafhankelijk kunnen verifiëren.