Фейкові відео та шахрайські QR-коди: чому Непал звернувся до Meta і TikTok

Чому уряд Непалу вимагав швидших дій

Запит Непалу до Meta та TikTok був зумовлений не просто поширенням неточних публікацій, а інформаційним хаосом під час реальної надзвичайної ситуації. Після руйнівної повені 26 серпня соцмережами почали циркулювати змонтовані або згенеровані ШІ «прямі» відео, старі кадри з інших країн, шокуючі зображення та фальшиві заклики надсилати гроші за QR-кодами. 15

Влада попросила платформи:

• негайно видаляти відео, створені за допомогою ШІ, повторно використані кадри та оманливі дописи;
• прибирати графічний контент, який може додатково травмувати постраждалих і їхні родини;
• блокувати шахрайські QR-коди для пожертв;
• швидше передавати скарги на перевірку, не очікуючи 24–48 годин;
• покращити автоматичне виявлення дезінформації непальською мовою та контенту, пов’язаного зі стихійними лихами. 15

Які відео виявилися неправдивими

Перевірки AFP показали, що кілька широко поширених роликів не мали стосунку до повені в Непалі. Серед них були:

• кадри зсуву в Кералі, Індія;
• відео попередніх повеней в індійському штаті Уттаракханд і Пакистані;
• давній ролик обвалу льодовика в Патагонії, Чилі. 2345

AFP також ідентифікувало відео, яке подавали як зняте під час катастрофи, але на ньому були характерні для генеративного відео візуальні помилки. 1 BBC Verify окремо зіставила справжні геолоковані кадри та супутникові дані з маніпульованими твердженнями й пояснила, за якими ознаками один із вірусних роликів про повінь можна розпізнати як створений ШІ. 1315

На що звертати увагу в підозрілих роликах

Серед помітних сигналів називали:

• зникнення людей або предметів між кадрами;
• викривлені будівлі, автомобілі чи мости;
• неприродний рух води, уламків або диму;
• геометрію сцени, яка фізично виглядає неправдоподібно.

Однак це лише попереджувальні ознаки, а не остаточний доказ. Надійніша перевірка передбачає зворотний пошук зображення чи відео, пошук найпершої публікації, геолокацію та аналіз даних про походження файлу. Саме відстеження джерел допомогло AFP довести, що кілька популярних роликів були опубліковані задовго до катастрофи в Непалі. 2345

Твердження про те, що «OpenAI Verify виявила водяні знаки Google SynthID», також варто сприймати обережно. SynthID — це технологія маркування та перевірки походження контенту Google, а не OpenAI. Навіть виявлений водяний знак може підтвердити походження файлу лише в обмежених випадках — коли відповідний генератор його вбудував, а система надійно його розпізнала. Сам по собі такий знак не доводить правдивість або походження всіх відео, що поширюються в мережі. Надані джерела не підтверджують офіційного висновку Meta чи OpenAI щодо конкретних роликів із повінню.

Чому дезінформація була особливо небезпечною

Повінь сталася в районі кордону Непалу й Тибету після обвалу льодовика, який, за попередніми оцінками, спричинив потік води, льоду, каміння та мулу в гірських річкових системах. 24 Серед найбільш постраждалих непальських районів були Расува та Нувакот: були зруйновані поселення й інфраструктура. 113

У таких умовах фальшивий контент може мати безпосередні наслідки. Підроблені збори здатні перенаправити пожертви від перевірених каналів, використати емоційний стан родичів загиблих і зниклих та ускладнити пошук достовірної інформації про евакуацію, допомогу й рятувальні роботи.

Кількість жертв постійно переглядалася. Reuters 28 серпня повідомляло, що число загиблих наближалося до 600, а майже 2 500 людей вважалися зниклими безвісти. В іншому оновленні наводилися цифри 579 загиблих, близько 2 400 зниклих і 3 742 врятованих. 18 Раніше китайські повідомлення говорили про 558 зниклих у Тибеті, а не про 554. 3 Тому наведені в різних публікаціях проміжні показники — 553–579 загиблих, понад 1 900 зниклих і понад 3 700 врятованих — не слід сприймати як остаточний підсумок.

На тлі катастрофи Канада оголосила про 5 млн доларів термінової гуманітарної допомоги Непалу. 13 Саме в такій ситуації заклики надсилати кошти за неперевіреними QR-кодами становлять особливий ризик. Водночас надані джерела не дають змоги незалежно підтвердити твердження про координацію цієї відповіді Catholic Relief Services і Caritas Nepal.