בזמן האסון: נפאל דרשה להסיר סרטוני AI וקודי תרומה מזויפים

הסיבה המרכזית: מידע כוזב בזמן חירום פעיל

הפנייה של נפאל למטא — החברה שמפעילה את פייסבוק ואינסטגרם — ולטיקטוק הגיעה על רקע הצפה של תכנים מטעים בזמן מבצעי החילוץ. ברשת הופצו סרטוני "שידור חי" שלא היו אמיתיים, תיעודים ישנים שסומנו מחדש כאילו צולמו בנפאל, תמונות קשות וקודי QR שקראו לתרומות. חלק מקודי התרומה עלולים היו להפנות כספים לגורמים לא מאומתים במקום לערוצי הסיוע הרשמיים. 15

הדרישה לא הייתה רק להסיר פוסטים ספציפיים. נפאל ביקשה מהפלטפורמות לפעול במהירות רבה יותר — ולא להמתין את פרק הזמן המדווח של 24 עד 48 שעות לאחר דיווח — וכן לשפר את המערכות האוטומטיות שמזהות מידע כוזב בשפה הנפאלית ובזמן אסונות. 15

אילו תכנים התבקשו הפלטפורמות להסיר?

הרשויות ביקשו הסרה מיידית של:

• סרטונים שנוצרו בבינה מלאכותית והוצגו כתיעוד אמיתי;
• תיעודים ישנים או ממקומות אחרים שהוצגו כאילו צולמו באסון בנפאל;
• פוסטים מטעים ותכנים גרפיים;
• קודי QR מזויפים או מטעים לתרומות.

הסיכון היה מעשי, לא רק תיאורטי: תכנים כאלה עלולים לבלבל אנשים שמחפשים מידע על חילוץ, נעדרים או סיוע, לנצל משפחות אבלות ותורמים, ולהסיט כספים מארגוני סיוע מוכרים.

התיעודים שהוצגו כאילו צולמו בנפאל — אך לא היו כאלה

בדיקות של AFP מצאו כי סרטונים שהופצו כתיעוד של השיטפונות בנפאל היו למעשה תיעודים ישנים ממפולת בקרלה שבהודו, משיטפונות קודמים באוטרקהאנד שבהודו ובפקיסטן, וכן סרטון בן שנים מקריסת קרחון בפטגוניה שבצ'ילה. 2345

AFP זיהתה גם סרטון שנראה לכאורה כתיעוד בזמן אמת של השיטפון, אך כלל עיוותים חזותיים האופייניים לתוכן שנוצר בבינה מלאכותית. 1 BBC Verify השתמשה בתיעודים מאומתים, באיתור גאוגרפי ובתצלומי לוויין כדי להבחין בין תמונות אותנטיות לבין טענות שעברו מניפולציה; ה-BBC גם הסביר בנפרד כיצד ניתן לזהות שסרטון ויראלי מסוים על השיטפונות בנפאל נוצר ב-AI. 1315

איך אפשר לזהות סרטון חשוד?

בין סימני האזהרה שדווחו:

• אנשים או חפצים שנעלמים בין פריים לפריים;
• מבנים וכלי רכב שנראים מעוותים;
• זרימת מים או תנועת פסולת שאינן עקביות;
• גאומטריה בלתי סבירה של הסצנה.

עם זאת, אלה סימנים מחשידים בלבד — לא בדיקה חד-משמעית. כלים אמינים יותר כוללים חיפוש תמונה או סרטון הפוך, איתור הפרסום המוקדם ביותר, בדיקת המיקום הגאוגרפי ובחינת נתוני מקור ואימות של הקובץ. בחקירות AFP, מעקב אחר מקור התיעודים הראה שכמה מהסרטונים שהופצו בהיקף נרחב קדמו בכלל לאירוע בנפאל. 2345

גם הטענה שלפיה "OpenAI Verify" מצאה סימני מים של Google SynthID דורשת זהירות. SynthID היא טכנולוגיית מקוריות וסימון דיגיטלי של Google, ולא של OpenAI. אפילו כאשר ניתן לזהות סימן כזה, הוא עשוי להעיד על מקור הקובץ רק במקרים מוגבלים שבהם מחולל התוכן הטמיע אותו והמערכת הצליחה לקרוא אותו באופן אמין. סימן מים לבדו אינו מוכיח שכל סרטון שמופץ ברשת נוצר באותו אופן. במקורות שסופקו אין אישור לממצא רשמי של מטא או OpenAI בנוגע לסרטוני ההצפות הספציפיים.

למה התזמון היה קריטי?

המידע הכוזב הופץ בזמן אסון אמיתי ומהיר-התפתחות: שיטפונות בזק פגעו באזור נהר טרישולי, לאחר שקריסת קרחון בצד הנפאלי הוערכה כגורם הסביר לאירוע. 24 המחוזות ראסווה ונואקוט היו בין האזורים שנפגעו בצורה הקשה ביותר, ותשתיות ויישובים נהרסו. 113

היקף האסון השתנה במהירות ככל שמבצעי האיתור והחילוץ נמשכו. רויטרס דיווחה ב-28 באוגוסט שמספר ההרוגים מתקרב ל-600 וכמעט 2,500 בני אדם עדיין מוגדרים נעדרים; בעדכון אחר דווח על 579 הרוגים, כ-2,400 נעדרים ו-3,742 חילוצים. 18 בדיווח מוקדם יותר מסין הופיע המספר 558 נעדרים בטיבט, ולא 554. 3

לכן, נתונים כמו 553–579 הרוגים, יותר מ-1,900 נעדרים, יותר מ-3,700 ניצולים שחולצו ו-554 נעדרים בצד הסיני הם אומדני ביניים סבירים לנקודות זמן שונות — אך לא מספרים סופיים ויציבים.

התרומות: נקודת תורפה נוספת

קנדה הודיעה על סיוע הומניטרי דחוף בסך 5 מיליון דולר לנפאל. 13 בתוך מציאות כזו, קודי QR מזויפים עלולים ליצור נזק ישיר: הם עשויים לנצל את מצוקת הציבור, להפנות תרומות לגורמים לא מוכרים ולהקשות על מי שמנסה למצוא מידע אמין על פינוי או על נעדרים.

המקורות שסופקו אינם מאפשרים לאמת באופן עצמאי את הטענה ש-Catholic Relief Services תיאם את המענה לאסון יחד עם Caritas Nepal. לכן, גם כשמדובר בקריאת תרומה שנראית אמינה, חשוב לבדוק את הארגון דרך אתר רשמי או ערוץ מאומת — ולא להסתמך רק על סרטון ויראלי או על קוד QR שמופיע בו.