דו"ח האו"ם חושף: הפגיעה בילדים ברשת אינה מקרית – היא תוצאה של מודלים עסקיים ו-AI לא מפוקח

אזהרות מפתח: דור חשוף

יותר מ-82% מבני 15 עד 24 מחוברים לרשת, והם חשופים באופן לא פרופורציונלי למידע כוזב, להטרדות, להטיות אלגוריתמיות ולשימוש זדוני בבינה מלאכותית . הדו"ח מזהיר שחלון ההזדמנויות לפעולה נסגר במהירות: AI עוקפת מסגרות רגולטוריות שמעולם לא תוכננו עבורה, ומייצרת סיכונים חדשים ומעצימה קיימים – החל מתוכן סינתטי ועד ניצול בסיוע AI .

מודלים עסקיים: הפגיעה אינה מקרית

הדו"ח טוען טענה חדה: הפגיעות שילדים חווים ברשת אינן מקריות. הן תוצאה ישירה של מודלים עסקיים המונטיזציה על קשב ונתונים אישיים ושל עיצובים שנועדו למקסם מעורבות והוצאות . המסמך מצביע במפורש על "דפוסים אפלים" (dark patterns), קופסאות שלל (loot boxes) וטקטיקות אחרות שמובילות לשימוש כפייתי בקרב ילדים, שהרגלים וזהותם עדיין מתגבשים . הדו"ח מזהיר גם מפני טקטיקות פרסום נסתרות שמנצלות ילדים כדי להגביר הוצאות ברשת .

בינה מלאכותית: מעצימה סיכונים קיימים

AI מעצימה סיכונים קיימים מהר יותר מקצב הטמעת אמצעי ההגנה. הדו"ח מציין סיכונים הנעים מתוכן שנוצר על ידי AI ועד ניצול בסיוע AI . המזכ"ל אנטוניו גוטרש מצוטט ישירות: "אף ילד לא צריך להיות שפן ניסוי לבינה מלאכותית לא מפוקחת... כשילד נפגע, התשובה לעולם לא יכולה להיות 'האלגוריתם עשה את זה'" .

שיתוף נוער: לא רק קורבנות, אלא גם פעילים

הדו"ח מתעקש שילדים ובני נוער אינם רק קורבנות – הם יוצרים, פעילים ומארגנים . עם זאת, קולם חסר ייצוג בפורומים שבהם מתעצבות מדיניות ובמחקרים שמזינים מדיניות זו . הדו"ח נחרץ: "הגנה עליהם ושילובם אינם מטרות מתחרות. עלינו לעשות את שניהם" .

דחיפות הטמעת זכויות ילדים בממשל AI

הדו"ח קורא להטמיע את זכויות הילדים במסגרות ממשל AI עוד עכשיו, בעוד שחוקים אלה נמצאים עדיין בפיתוח – ומזהיר ש*"חלון הזדמנויות שלא יישאר פתוח לאורך זמן"* נסגר . הוא קורא למדינות, חברות טכנולוגיה, מפרסמים, תקשורת וחוקרים לפעול יחד. המסמך מתייחס לקואליציה לזכויות והגנת ילדים בעידן הבינה המלאכותית ולקריאה של המזכ"ל להתחייבות לבטיחות ילדים ב-AI שתכסה כל מערכת שילד יכול להגיע אליה .