Nepal’den Meta ve TikTok’a sahte afet içerikleri için hız çağrısı

Nepal hükümetinin Meta ve TikTok’a yaptığı çağrının arkasında, kurtarma operasyonları devam ederken sosyal medyada hızla yayılan zararlı içerikler vardı. Yapay zekâyla üretilmiş “canlı” sel videoları, Nepal’e aitmiş gibi yeniden etiketlenen eski görüntüler, grafik içerikler ve sahte bağış QR kodları, hem kamuoyunu yanıltıyor hem de yardım çalışmalarını sekteye uğratma riski taşıyordu. 15

Nepal platformlardan ne istedi?

Yetkililer, yapay zekâ üretimi videoların, eski görüntülerin, yanıltıcı paylaşımların, grafik içeriklerin ve sahte bağış QR kodlarının derhâl kaldırılmasını istedi. Çağrının temelinde, kullanıcı şikâyetlerinin sonuçlandırılması için bildirilen 24–48 saatlik sürenin kısaltılması ve Nepalce ile afet bağlamındaki dezenformasyonu daha iyi yakalayacak otomatik sistemlerin geliştirilmesi vardı. 15

Bu talep, yalnızca içeriklerin kaldırılmasına değil, platformların kriz anlarında daha hızlı doğrulama ve eskalasyon mekanizmaları işletmesine yönelikti.

Hangi görüntülerin sahte olduğu ortaya çıktı?

AFP’nin incelemeleri, Nepal seli olarak paylaşılan bazı videoların aslında farklı ülke ve dönemlerden geldiğini gösterdi:

• Görüntülerin bir kısmı Hindistan’ın Kerala eyaletindeki daha eski bir toprak kaymasına aitti.
• Bazı videolar daha önce Hindistan’ın Uttarakhand bölgesindeki ve Pakistan’daki seller sırasında kaydedilmişti.
• Bir başka görüntü ise Şili Patagonyası’ndaki yıllar önce yaşanan buzul çökmesine aitti. 2345

AFP ayrıca gerçek zamanlı sel görüntüsü gibi sunulan bir videoda, üretken yapay zekâ videolarında görülen görsel bozulmaları tespit etti. 1

BBC Verify ise uydu verileri ve konumu doğrulanabilen gerçek görüntülerle manipüle edilmiş iddiaları birbirinden ayırdı; ayrıca Nepal seline ait olduğu öne sürülen viral videolardan birinin neden yapay zekâyla üretildiğini açıkladı. 1315

Yapay zekâ üretimi videolar nasıl fark edilebilir?

İncelemelerde öne çıkan uyarı işaretleri arasında şunlar yer aldı:

• Nesnelerin veya insanların kareler arasında aniden kaybolması,
• Binaların ve araçların şeklinin bozulması,
• Su akışı ya da enkaz hareketlerinin tutarsız görünmesi,
• Sahne içindeki mesafe ve perspektifin fiziksel olarak mümkün görünmemesi.

Bunlar yararlı ipuçları olsa da tek başına kesin kanıt sayılmaz. Daha güvenilir doğrulama için tersine görsel veya video araması, görüntünün ilk kez nerede paylaşıldığının izlenmesi, coğrafi konum doğrulaması ve içerik kökeni verileri birlikte değerlendirilmelidir. AFP, geniş kitlelere ulaşan birçok klibin Nepal’deki felaketten önce yayımlandığını bu tür kaynak izleme yöntemleriyle gösterdi. 2345

“OpenAI Verify, Google SynthID filigranlarını buldu” şeklindeki iddialara ise temkinli yaklaşmak gerekiyor. SynthID, OpenAI’ye değil Google’a ait bir içerik kökeni ve filigran teknolojisi. Bir filigranın tespit edilmesi, yalnızca üreticinin onu dosyaya eklediği ve tespit sisteminin güvenilir biçimde okuyabildiği sınırlı durumlarda içeriğin kaynağı hakkında bilgi verebilir. Tek başına, internette dolaşan her video hakkında kesin hüküm oluşturmaz. Mevcut kaynaklar, söz konusu sel videoları için Meta veya OpenAI tarafından yapılmış resmî bir tespiti doğrulamıyor.

Dezenformasyon neden bu kadar tehlikeliydi?

Sahte içerikler, Nepal-Tibet sınırında buzul çökmesinin tetiklemiş olabileceği değerlendirilen gerçek ve hızla gelişen bir felaketin ortasında yayıldı. 24 Rasuwa ve Nuwakot, en ağır hasar gören Nepal bölgeleri arasında yer aldı; yerleşimler ve altyapı büyük ölçüde zarar gördü. 113

Bu ortamda sahte QR kodları özellikle ciddi bir operasyonel risk taşıyor. Dolandırıcılar, bağış yapmak isteyen kişileri doğrulanmış yardım kuruluşları yerine kendi hesaplarına yönlendirebilir; afetten etkilenen aileleri sömürebilir ve tahliye, kayıp kişi ya da yardım bilgisi arayan insanların doğru kaynaklara ulaşmasını zorlaştırabilir.

İçerikler ağırlıklı olarak Meta platformları ile TikTok’ta dolaşıma girerken, yeniden paylaşılan afet videoları daha geniş sosyal medya ağlarına da yayıldı. AFP’nin örnekleri, Hindistan, Pakistan ve Şili’den alınan görüntülerin Nepal bağlamında yeniden kullanıldığını gösteriyor. Ancak mevcut kanıtlar, dolaşımın tüm diller bazında eksiksiz bir haritasını çıkarmaya yetmiyor.

Can kaybı ve kayıp sayıları neden değişiyor?

Felaketin hemen ardından kurtarma çalışmaları sürdüğü için insani yardım verileri hızla güncellendi. Reuters, 28 Ağustos’ta Nepal’deki can kaybının 600’e yaklaştığını ve yaklaşık 2.500 kişinin kayıp olduğunu bildirdi. Başka bir güncellemede ise 579 ölüm, yaklaşık 2.400 kayıp ve 3.742 kurtarma bilgisi yer aldı. 18

Çin tarafından yapılan daha erken açıklamalarda Tibet’te 554 değil, 558 kişinin kayıp olduğu bildirildi. 3 Bu nedenle 553–579 ölüm, 1.900’den fazla kayıp, 3.700’den fazla kurtarma ve Çin tarafında 554 kayıp şeklindeki rakamlar, olayın farklı aşamalarındaki geçici sayımları yansıtıyor olabilir; bunlar sabitlenmiş nihai toplamlar olarak görülmemeli.

Kanada da Nepal’deki yardım çalışmalarına 5 milyon dolarlık acil insani destek açıklamıştı. 13 Böyle bir tabloda sahte bağış çağrıları, yalnızca çevrim içi bir doğruluk sorunu değil, gerçek yardım kaynaklarının doğru kişilere ulaşmasını etkileyebilecek bir güvenlik ve koordinasyon meselesi hâline geliyor.