Nepal vaati somealustoilta nopeampia toimia tulvakatastrofin aikana

Nepalin hallitus pyysi Metaa ja TikTokia toimimaan nopeasti, koska sosiaalisessa mediassa levisi haitallista sisältöä kesken aktiivisen pelastusoperaation. Julkaisuissa esitettiin tekaistuja ”suoria” tulvavideoita, vanhaa kuvamateriaalia Nepalista, järkyttäviä kuvia sekä lahjoitusvetoomuksia, joissa käytettiin mahdollisesti väärennettyjä QR-koodeja. Tällainen sisältö voi ohjata rahaa pois virallisilta avustuskanavilta ja vaikeuttaa ihmisten tiedonsaantia hätätilanteessa. 15

Mitä Nepal vaati alustoilta?

Viranomaiset halusivat, että alustat poistavat välittömästi tekoälyllä tuotetut videot, kierrätetyn tai harhaanjohtavasti nimetyn kuvamateriaalin, petolliset julkaisut, graafisen sisällön ja väärennetyt lahjoitus-QR-koodit. Käytännössä pyyntö koski ennen kaikkea nopeampaa ilmoitusten eskalointia ja tehokkaampaa automaattista tunnistamista – ei sitä, että sisältöön reagoitaisiin vasta yhden tai kahden vuorokauden kuluttua. 15

Nepal toivoi myös, että järjestelmät tunnistaisivat paremmin nepaliankielisen ja katastrofeihin liittyvän misinformaation. Kriisin aikana jopa lyhyt viive voi antaa väärälle videolle tai huijausvetoomukselle aikaa levitä laajalle.

Vanhat videot esitettiin uutena Nepalista

AFP:n tarkistuksissa useat tulvavideoiksi väitetyt julkaisut osoittautuivat vanhemmaksi materiaaliksi. Niissä oli kuvattu muun muassa maanvyörymä Keralassa Intiassa, aiempia tulvia Uttarakhandissa ja Pakistanissa sekä vuosia vanha jäätikön romahdus Chilen Patagoniassa. 2345

AFP tunnisti lisäksi videon, jota esitettiin reaaliaikaisena tulvakuvana mutta joka vaikutti tekoälyn tuottamalta. Kuvassa näkyi generatiiviselle videolle tyypillisiä visuaalisia vääristymiä. 1

BBC Verify puolestaan erotteli toisistaan geopaikannuksella ja satelliittiaineistolla vahvistetut aidot kuvat sekä muokatut väitteet. BBC julkaisi myös erillisen analyysin siitä, miten yhden viraalin Nepal-tulvavideon tekoälyperäisyys voitiin havaita. 1315

Mistä epäaidon videon voi tunnistaa?

Tarkistuksissa mainittuja varoitusmerkkejä ovat esimerkiksi:

• esineiden tai ihmisten katoaminen ruudusta toiseen
• rakennusten ja ajoneuvojen vääntyneet muodot
• veden virtauksen tai kelluvan irtaimiston epäjohdonmukainen liike
• epäuskottava perspektiivi tai muu poikkeava kohtausgeometria.

Nämä ovat hyödyllisiä hälytysmerkkejä, mutta eivät yksinään varmoja testejä. Luotettavampia menetelmiä ovat käänteinen kuva- tai videohaku, julkaisun alkuperäisen lähteen jäljittäminen, tapahtumapaikan geopaikannus ja saatavilla olevien alkuperä- tai provenienssitietojen tarkistaminen. AFP:n tutkimuksissa juuri lähteiden jäljittäminen osoitti, että useat laajalle levinneet videot olivat peräisin ajalta ennen Nepalin katastrofia. 2345

Google SynthID -vesileimoihin liittyviin väitteisiin kannattaa suhtautua varoen. SynthID on Googlen kehittämä alkuperä- ja vesileimateknologia, ei OpenAI:n. Vaikka vesileima voitaisiin havaita, se voi osoittaa tiedoston alkuperän vain rajatuissa tapauksissa: sisällön tuottajan on täytynyt lisätä vesileima ja tunnistimen on täytynyt lukea se luotettavasti. Vesileima ei yksin todista kaikkien levitettyjen videoiden aitoutta tai alkuperää. Käytettävissä oleva lähdeaineisto ei vahvista, että Meta tai OpenAI olisi tehnyt kyseisistä tulvavideoista virallisen löydöksen.

Miksi väärä tieto oli erityisen vaarallista?

Väärät julkaisut levisivät keskellä todellista ja nopeasti kehittyvää katastrofia Nepalin ja Tiibetin rajaseudulla. Asiantuntija-arvioiden mukaan tulvan todennäköinen laukaisija oli jäätikön osan romahtaminen, joka syöksi kiveä, jäätä, mutaa ja vettä Himalajan jokijärjestelmiin. 24 Nepalin Rasuwa ja Nuwakot kuuluivat pahiten kärsineisiin alueisiin, ja infrastruktuuria sekä asutusta tuhoutui. 113

Väärennetyt QR-koodit muodostavat tällaisessa tilanteessa suoran operatiivisen riskin. Ne voivat käyttää hyväksi uhrien läheisten ja lahjoittajien hätää, ohjata varoja huijareille ja hämmentää ihmisiä, jotka etsivät tietoa evakuoinneista, kadonneista tai avusta.

Uhriluvut muuttuivat pelastustöiden edetessä

Katastrofin uhrilukuja on tärkeää tarkastella aina päivämäärän yhteydessä, sillä luvut muuttuivat nopeasti etsintä- ja pelastustöiden jatkuessa. Reuters kertoi 28. elokuuta kuolleiden määrän lähestyvän 600:aa ja lähes 2 500 ihmisen olevan kateissa. Toisessa päivityksessä mainittiin 579 kuollutta, noin 2 400 kadonnutta ja 3 742 pelastettua. 18

Kiinasta aiemmin raportoidussa tiedossa puhuttiin Tiibetissä 558 kadonneesta, ei 554:stä. 3 Siksi kysymyksessä mainitut luvut – 553–579 kuollutta, yli 1 900 kadonnutta, yli 3 700 pelastettua ja Kiinan puolella 554 kadonnutta – sopivat mahdollisiin väliaikaisiin tilannearvioihin, mutta niitä ei pidä pitää lopullisina kokonaislukuina.

Kanada ilmoitti Nepalille viiden miljoonan dollarin kiireellisestä humanitaarisesta avusta. 13 Käytettävissä olevien lähteiden perusteella ei kuitenkaan voitu riippumattomasti vahvistaa väitettä, jonka mukaan Catholic Relief Services koordinoisi avustustoimia yhdessä Caritas Nepalin kanssa.