מועצת הפיקוח של מטא: להסיר דיפפייק מיני ולשנות את המדיניות

שינויי המדיניות העיקריים שהמועצה קראה למטא לאמץ

הפסיקה של המועצה חרגה מהמקרה הספציפי והנפיקה מספר המלצות מחייבות ולא-מחייבות לשינוי האופן שבו מטא מטפלת בתכנים מיניים שנוצרו בבינה מלאכותית, במיוחד עבור אנשים שאינם דמויות ציבוריות . השינויים העיקריים כוללים:

התייחסות להתחזות בינה מלאכותית כלא-הסכמתית כברירת מחדל

המועצה קבעה במפורש כי התחזות בינה מלאכותית בהקשרים מיניים צריכה להיחשב "לא-הסכמתית כברירת מחדל" והמליצה להוסיף התחזויות אלה למדיניות ניצול מיני מבוגרים של מטא . משמעות הדבר היא העברת נטל ההוכחה מהקורבנות, הנדרשים להוכיח אי-הסכמה, אל הפלטפורמה, שצריכה להכיר בנזק המובנה של תוכן כזה .

מתן אפשרות לאנשים קרובים לדווח בשם הקורבן

שינוי פרוצדורלי משמעותי שהמליצה המועצה הוא לאפשר למשתמשים לייעד "חשבונות מקושרים" - כגון חברים או בני משפחה מהימנים - שיוכלו לדווח על הפרות פוטנציאליות כמו תמונות אינטימיות לא-הסכמתיות בשם הקורבן . זה נותן מענה לפער משמעותי שבו קורבנות עשויים שלא להיות מודעים לתוכן או לא להיות מסוגלים לדווח עליו בעצמם בשל טראומה או פחד.

יצירת קטגוריית דיווח גלובלית לתמונות מיניות שנוצרו בבינה מלאכותית

המועצה קראה למטא ליצור קטגוריית דיווח ייעודית וגלובלית לתמונות מיניות לא-הסכמתיות שנוצרו בבינה מלאכותית, תוך מעבר מהסיווג הנוכחי של החברה במסגרת כלל בריונות והטרדה כללי . צעד זה יקל על הגשת דיווחים ומעקב אחריהם.

עדכון הטרמינולוגיה מ-"פוטושופ מיני בזוי" ל-"לא-הסכמתי" מדיה מניפולטיבית

המועצה מתחה ביקורת בעבר על הטרמינולוגיה המיושנת של מטא, שהשתמשה במונחים כמו "פוטושופ מיני בזוי" ("derogatory sexualized photoshop") . המועצה המליצה לעדכן את כללי מטא כך שישתמשו במונחים ברורים ומדויקים יותר המשקפים את המציאות המודרנית של שימוש לרעה בבינה מלאכותית, תוך הדגשת האופי הלא-הסכמתי של התוכן במקום שיטת היצירה .

יישום תעודות תוכן בהיקף נרחב ושיפור זיהוי

בתיק קשור לתוכן בינה מלאכותית, המועצה קראה למטא ליישם כלים ניתנים להרחבה לזיהוי תוכן שנוצר בבינה מלאכותית, כולל אימוץ תקן תעודות התוכן C2PA - תקן מקור למעקב אחר מקור המדיה ושינויים בה . המועצה מצאה כי המערכות הנוכחיות של מטא מסתמכות יותר מדי על גילוי עצמי על ידי משתמשים וחסרות זיהוי אוטומטי חזק, במיוחד עבור וידאו ואודיו .

התמקדות בהגנה על אנשים שאינם דמויות ציבוריות

נושא מרכזי בפסיקה היה פער ההגנה עבור אנשים רגילים שאינם דמויות ציבוריות. המועצה הדגישה כי אנשים שאינם דמויות ציבוריות, המהווים מטרה לדיפפייקס מיניים, נפגעים במיוחד ממערכות הדורשות מהם להוכיח אי-הסכמה בעצמם, משום שלעתים קרובות חסרה להם הנראות הציבורית או התמיכה המוסדית העומדת לרשות דמויות ציבוריות . המקרה עצמו התמקד בהתחזות מינית שנוצרה בבינה מלאכותית של אישה, שדווחה על ידי חברה שטען כי התוכן לא-הסכמתי ופוגע במוניטין .

התייחסות לנזק מגדרי

החלטת המועצה הכירה גם בנזק הלא-פרופורציונלי שדיפפייקס אלה גורמים לנשים ונערות. על ידי קריאה לזיהוי אוטומטי חזק יותר, שינוי בנטל ההוכחה ומדיניות ברורה יותר, המועצה ביקשה לתת מענה לאופי המערכתי של התעללות מקוונת על רקע מגדרי .

הצעדים הבאים עבור מטא

מטא נדרשת להגיב להמלצות מועצת הפיקוח תוך 60 יום . בעוד שההמלצה להסיר את הסרטון הספציפי היא מחייבת, המלצות המדיניות הרחבות יותר אינן מחייבות, אך נושאות משקל ציבורי ותדמיתי משמעותי . הפסיקה מתבססת על החלטות קודמות של המועצה משנת 2024 ו-2025, שמצאו כי מדיניות הדיפפייק של מטא "אינה קוהרנטית" ו"אינה ברורה מספיק" .