דוח TTP: מטא הפיצה 332 מודעות בתשלום עם חשד לחומרי התעללות מינית בילדים שנוצרו ב-AI

תחקיר שפרסם ב-8 בספטמבר ארגון Tech Transparency Project (TTP) טוען כי מערכות הפרסום של מטא הפיצו 332 מודעות בתשלום בפייסבוק ובאינסטגרם, שכללו חשד לחומרי התעללות מינית בילדים (CSAM) שנוצרו או עובדו בעזרת בינה מלאכותית. לפי הארגון, המודעות רצו מנובמבר 2025 ועד אוגוסט 2026 והגיעו ליותר מ-29,000 משתמשים בכמה אזורים בעולם. עם זאת, TTP הדגיש כי נתוני ספריית המודעות הציבורית של מטא אינם מספקים תמונה מלאה של היקף החשיפה, במיוחד מחוץ לאזורים שבהם מוצגים נתוני שקיפות מפורטים. 69

מה כלל התחקיר

לפי TTP, המודעות השתמשו בתמונות שנוצרו או שונו ב-AI כדי להציג ילדים באופן מיני, ולעיתים קידמו אפליקציות מסוג ״nudify״ או כלי דיפ-פייק. אלו כלים שמסוגלים לשנות תמונה ולהפיק ממנה תוכן מיני מזויף. הארגון מסר כי חלק מהתמונות נראו ככאלה שעובדו מתצלומים של ילדים אמיתיים, לרבות בן או בת למשפחת מלוכה אירופית. 910

המודעות הופיעו באיחוד האירופי ובבריטניה, בארצות הברית, בהודו ובאוסטרליה. בדיווחים על התחקיר צוין כי TTP זיהה 84 מודעות בהודו ו-120 מודעות שיועדו למשתמשים באוסטרליה; לפי הדיווח, רוב המודעות הופיעו באיחוד האירופי ובבריטניה. 112

TTP קישר רבות מהמודעות למפתחי אפליקציות AI ולרשת משווקי הפרסום של מטא בסין. בדוח הוזכרו בין היתר המשווקים GIMC ו-BlueFocus, בעוד דיווחים נוספים תיארו מודעות רבות כקידום של אפליקציות ״nudify״. 96

מדוע העובדה שמדובר בפרסום בתשלום משמעותית

הסוגיה אינה רק הופעתו של תוכן פוגעני ברשת חברתית. לפי ממצאי TTP, אלה היו מודעות בתשלום — כלומר תוכן שהוגש למערך הפרסום של מטא, עבר לכאורה את תהליכי הקליטה והבדיקה שלו, ולאחר מכן הופץ למשתמשים.

TTP טען שהמקרה מצביע על כשל הן בבדיקת הקריאייטיב הפרסומי והן בפיקוח על מפרסמים. לדבריו, חלק ניכר מהתמונות היה בוטה ולא הוסווה מאחורי ניסוחים עדינים או רמזים חזותיים מעורפלים. הארגון הוסיף כי מטא סיווגה תחילה 113 מודעות שהוסרו תחת קטגוריות של תוכן מיני למבוגרים או הפרות כלליות; לאחר פניית TTP, הודעות ההסרה שונו כך שיסווגו את התוכן כניצול ילדים. 9

לסיווג יש משמעות ישירה לשקיפות ולאכיפה: אם מודעות אסורות אינן מסווגות בעקביות כתוכן של ניצול ילדים, הנתונים הציבוריים על הסרות עשויים שלא לשקף בבירור את היקף הבעיה או את אופייה, כפי שציין TTP. 9

תגובת מטא והסרת המודעות

דובר מטא, אנדי סטון, אמר שהחברה אוסרת אפליקציות ״nudify״ וכל צורה של ניצול ילדים, ״בין אם התוכן אמיתי ובין אם נוצר ב-AI״. לדבריו, מי שמנסים לעקוף את האכיפה משנים כל העת את שיטותיהם, ולכן מטא נדרשת לשפר ללא הרף את יכולות הגילוי והאכיפה שלה. 3

מטא מסרה גם כי לחלק ניכר מהמודעות הייתה חשיפה מוגבלת, שחלקן הושבתו עוד לפני דיווחים חיצוניים, ושחלקן פורסמו לפני השקת כלים חדשים שנועדו לזהות ולחסום בזמן ההעלאה מודעות מפרות הקשורות ל-AI. 11

לפי TTP, עד 1 בספטמבר הסירה מטא 183 מתוך 332 המודעות. לאחר שהארגון העביר למטא את ממצאיו ב-2 בספטמבר, החברה הסירה את 149 המודעות הנותרות וסיווגה מחדש 113 מודעות תחת כללי ניצול ילדים. 9

עם זאת, TTP מסר כי בימים שלאחר מכן המשיכו להופיע מודעות דומות, ובהן מודעה הקשורה לקטין ממשפחת המלוכה האירופית. לכן, ההסרות טיפלו במודעות שזוהו בתחקיר, אך אינן מוכיחות כשלעצמן שהכשל הבסיסי בבדיקת מודעות נפתר. 9

לחץ ציבורי ורגולטורי רחב יותר

הדוח פורסם על רקע ביקורת רחבה על אופן הטיפול של מטא בבטיחות צעירים בפלטפורמות שלה. TTP קישר את הממצאים לאפשרות להסדר בסך 18 מיליארד דולר עם תובעים כלליים של מדינות בארצות הברית, בעקבות טענות שמוצרי מטא פגעו בצעירים. 9

הסנאטור האמריקאי מארק וורנר שאל קודם לכן את מטא כיצד מודעות מסוג זה הצליחו לעבור את המערכות שלה, והצביע על כך שספריית המודעות הציבורית של החברה אינה מאפשרת למשתמשים לדווח על מודעות פוגעניות. 17

בהודו, נציבות זכויות האדם הלאומית ביקשה תגובות ממשרדי ממשלה ומהמשטרה בעקבות דיווחים שלפיהם מודעות בתשלום באינסטגרם קידמו או אפשרו גישה לחומרי התעללות מינית בילדים. 2218

כיצד דווחו המודעות

TTP מסר כי דיווח על כל מודעה שזיהה למרכז הלאומי לילדים נעדרים ומנוצלים בארצות הברית (NCMEC), בין היתר דרך מערכת הדיווח CyberTipline. מסלול הדיווח חשוב משום שהוא מאפשר לבחון חשדות לניצול ילדים ברשת ולהעביר מידע לרשויות אכיפת החוק במקרים המתאימים. 93

המסקנה העיקרית של התחקיר היא שמניעת ניצול לרעה של AI אינה יכולה להסתמך רק על הסרת תוכן לאחר פרסומו. כשמדובר בפרסום ממומן, נקודת הבקרה הקריטית נמצאת מוקדם יותר: אימות מפרסמים, בדיקת חומרי הפרסום, זיהוי אוטומטי, סיווג מדיניות מדויק ותגובה מהירה לאחר איתור הפרה.