האזהרה החמורה: סרטוני פירות וירקות אלימים באינטליגנציה מלאכותית עלולים לשמש כלי להקצנה של ילדים

אידיאולוגיות קיצוניות המוזכרות בסרטונים

הדו"ח של GNET מזהה קישורים מפורשים למספר תנועות קיצוניות בקליפים הללו :

• המדינה האסלאמית (דאעש) — חלק מהקליפים מעבירים מסרים התומכים בדאעש.
• "האצה" (Accelerationism) ימנית קיצונית — אידיאולוגיה ניאו-נאצית/עליונות לבנה השואפת להאיץ את קריסת החברה.
• קיצוניות אלימה ניהיליסטית — תת-תרבות רחבה יותר החוגגת אלימות לשמה.
• חלק מהסרטונים אף מתייחסים לקבוצות פליליות ספציפיות באמצעות סמלים או רמזים נרטיביים .

טרנד תוכן ה'ריקבון המוחי' (Brain Rot)

הסרטונים האלימים הם חלק מטרנד רחב יותר של קליפים המכונים "ריקבון מוחי" — מונח המתאר את ההשפעות הפסיכולוגיות והתרבותיות של צריכה מתמדת של מדיה מהירה, מקוטעת ומגרה יתר על המידה . קליפים אלה מתחילים לעתים קרובות כנראטיבים מלודרמטיים של רומנטיקה, בגידה ושערורייה בכיכובם של מאכלים אנתרופומורפיים, ואז מסלימים לאלימות גרפית מפורשת הכוללת "השחתת איברים קיצונית, עינויים ואלימות היפר-ריאליסטית" . הז'אנר מתואר גם כ"AI slop" — תוכן באיכות נמוכה, המיוצר בהמונים כדי למקסם קליקים, צפיות ומעורבות אלגוריתמית עם מינימום קלט אנושי .

סיכוני ההקצנה הרחבים יותר

הדו"ח קובע כי "הפוטנציאל הרדיקלי" אינו טמון רק במסרים האידיאולוגיים, אלא ב"נורמליזציה של אכזריות, קהות רגשית ותרבות ההלם המוגברת על ידי האלגוריתם" . המעבר מהומור סוריאליסטי תמים לאלימות גרפית AI משקף "שחיקה הדרגתית של גבולות רגשיים באמצעות חשיפה מתמדת לדימויים אלימים ומבטלי אנושיות יותר ויותר" . חשיפה חוזרת מחזקת "קסם לאלימות לשמה", אשר הדו"ח מכנה "אודה לאלימות" ברשת, שתופסת תאוצה בקרב משתמשים צעירים .

בשל העובדה שהתוכן זול וקל להפקה בקנה מידה, יוצרים בודדים יכולים להציף פלטפורמות במאות סרטונים, ובכך להגביר משמעותית את החשיפה לנושאים אלימים . GNET מסכמת כי קליפים אלו מייצגים וקטור חדש להקצנה מקוונת — כזה המנצל פורמטים אבסורדיים של AI כדי להפיץ ולנרמל אלימות קיצונית בקרב ילדים ובני נוער, תוך שהם נותרים כמעט בלתי נראים למערכות ניטור התוכן הנוכחיות .