Gaussian Probing: שיטת הביקורת החדשה שמאתרת מודלים פדופיליים בלי לייצר תוכן אסור

במקום לשאול מה המודל יוצר כתמונה, Gaussian Probing בודק כיצד המתאם (adaptor) משנה את פרופיל התגובה הפנימי של המודל במרחב המצבים הגאוסיאני המקורי של תהליך הדיפוזיה .

איך זה עובד?

השיטה פועלת על ידי מדידה של האופן שבו מתאם LoRA מפריע פונקציונלית לייצוגים הפנימיים של המודל. היא מזינה קבוצת ייחוס של מצבים גאוסיאניים אקראיים לתהליך הדיפוזיה של המודל ועוקבת אחרי השינויים בהפעלות החבויות .

הכלי המתמטי המרכזי הוא "פונקציונל בדיקה" (probe functional) שמחשב את הייצוג החבוי הממוצע לאורך שלבי הדיפוזיה עבור קבוצה של קלטי רעש גאוסיאני, ואז מכנס אותם לווקטור מאפיינים שמאפיין את השפעת המתאם . קלסיפייר (מסווג) מאומן על וקטורי מאפיינים אלה כדי להבחין בין מתאמים מזיקים (המתמחים ב-CSAM) לבין מתאמים תמימים.

כפי שהסביר Vinith Suriyakumar, סטודנט לתואר שני ב-MIT וחוקר ראשי: "לפני זה לא הייתה לנו שום דרך למדוד את זה. זה היה כתם עיוור עצום שניצלו אותו" .

דיוק: 100% בניסויים

בניסויים, הליך ה-Gaussian Probing זיהה וריאנטים של מודלים שכוונו לייצור CSAM ב-100 אחוז דיוק . החוקרים מצאו שהשיטה מבדילה באופן מהימן בין התמחות מזיקה לתמימה, בניגוד לשיטות בסיס שמתבססות על משקולות גולמיות (raw weights) ועלולות להסתמך על מאפייני אימון מקריים במקום על אות תוכן משמעותי .

הטכניקה גם הוכחה כיעילה תחת אילוצים ריאליסטיים, מה שמרמז שניתן להפעיל אותה בקנה מידה בפלטפורמות כמו Hugging Face או Civitai, שם משתמשים מעלים מתאמי LoRA .

המחקר הוא שיתוף פעולה של סטודנט MIT Vinith Suriyakumar, פרופסורים חברים Ashia Wilson ו-Marzyeh Ghassemi, יחד עם חוקרים מ-Thorn, כולל ד"ר Rebecca Portnoff .

הפרדוקס החוקרי שגאוסיאן פותר

ביקורת בטיחות סטנדרטית של AI מסתמכת על תהליך פשוט: להזין למודל קלטים מזיקים ולבחון את הפלטים. עבור CSAM, זה בלתי אפשרי מבחינה חוקית. בארצות הברית, יצירת תוכן כזה אסורה לחלוטין, בלי קשר לכוונה .

Gaussian Probing פותרת את הפרדוקס הזה על ידי הערכת היכולת של המודל לייצר CSAM על בסיס הפעלות פנימיות בלבד, מבלי לייצר תמונה כלשהי. כפי שמציין ההודעה הרשמית של MIT: "הטכניקה בוחנת כיצד המנגנונים הפנימיים של המודל משתנים כשהוא מותאם עם CSAM — מבלי צורך לראות תמונות" .

השיטה גם מונעת את הבעיה האתית של חשיפת חוקרי בטיחות לחומר טראומטי, מכיוון שהיא אינה דורשת צפייה בתמונות CSAM במהלך הבדיקה .

המשבר המתרחב של AI-CSAM

הטכניקה מגיעה ברגע שבו היקף ה-CSAM שנוצר על ידי AI מתפוצץ. נתונים מרכזיים ממקורות רשמיים:

• NCMEC (המרכז הלאומי לילדים נעדרים ומנוצלים) קיבלה יותר מ-1.5 מיליון דיווחים על CSAM שנוצר ב-AI ב-2025, עלייה חדה לעומת 67,000 בכל 2024 . זהו גידול של פי 22 לעומת השנה הקודמת.
• במחצית הראשונה של 2025 בלבד, NCMEC קיבלה 485,000 דיווחים על CSAM הקשור ב-AI, כשכ-35 חברות טכנולוגיה מדווחות כעת על חומר כזה .
• Internet Watch Foundation (IWF) העריכה 8,029 תמונות וסרטונים שנוצרו ב-AI כמציגים התעללות מינית ריאליסטית בילדים ב-2025 . למרות ש-AI CSAM עדיין מהווה חלק קטן יחסית מכלל הדיווחים, הוא מתואר כ"נרחב וגדל" בהיקף, תחכום ונגישות .
• הפרלמנט האירופי ציין כי 2025 ראתה "עלייה עצומה" ב-CSAM שנוצר ב-AI, כשמודלי טקסט לתמונה בקוד פתוח הם וקטור עיקרי .
• NCMEC דיווחה על עלייה של 1,325% בדיווחים הקשורים ל-AI גנרטיבי בין 2023 ל-2024 בלבד .

תוכן וידאו ריאליסטי באורך מלא הפך לנפוץ. ב-2025, IWF זיהתה 3,443 סרטוני התעללות מינית בילדים שנוצרו ב-AI, מתוכם 65% מסווגים בקטגוריה A — החומר החמור ביותר תחת החוק הבריטי .

מה זה אומר לבטיחות AI ולהגנה על ילדים

Gaussian Probing ממלאת פער קריטי בערכת הכלים לבטיחות AI. ההגנות הנוכחיות נגד CSAM שנוצר ב-AI מסתמכות בעיקר על סינון קלט, סינון פלט וסינון נתוני אימון . אבל כפי שמחקרים הראו, "אפשר להחדיר מחדש מושג דרך כוונון עדין גם אם הסינון מושלם", מה שאומר ששיטות הסינון הנוכחיות מציעות "הגנה מוגבלת למודלים סגורים וללא הגנה למודלים פתוחים" .

על ידי כך שהיא מאפשרת לפלטפורמות לזהות מודלים מזיקים שכוונו עדין לפני שהם מופצים באופן נרחב, Gaussian Probing יכולה לאפשר לפלטפורמות כמו Hugging Face ו-Civitai לסנן מתאמי LoRA מועלים מבלי לפנות לייצור תוכן לא חוקי .

לעת עתה, הטכניקה מספקת חלופה ניתנת להרחבה ולא-גנרטיבית להערכת בטיחות מודלים בתחומים בסיכון גבוה שבהם הייצור מוגבל מבחינה חוקית — כלי שחסר לתחום מאוד, כשהמשבר של CSAM שנוצר ב-AI מאיץ.