“דעיכת הייחוס”: מדוע קשה יותר לקשר תמונת AI למקור מסוים

מחקר של ג׳נג דאי ודיוויד גיפורד מ-MIT CSAIL מצביע על תופעה שהחוקרים מכנים “דעיכת הייחוס”: ככל שמודל ליצירת תמונות המבוסס על דיפוזיה מאומן על יותר תמונות, ההשפעה הסיבתית של כל תמונת אימון יחידה על פלט מסוים עשויה להפוך לקטנה מכדי שניתן יהיה לזהותה. במבחן של הסרה מדויקת, ההשפעה הזו אף עשויה להיעלם לחלוטין.

המשמעות היא שקשה יותר לקשור תמונה שנוצרה ב-AI לאמן מסוים, לצילום מסוים או למקור יחיד. עם זאת, המחקר אינו מוכיח שמודלים אינם מעתיקים, ואינו מכריע אם שימוש ביצירות מוגנות לצורך אימון הוא חוקי.

איך בדקו החוקרים את ההשפעה של תמונה בודדת?

במקום לנסות להעריך באופן מתמטי עד כמה כל תמונה השפיעה על המודל, דאי וגיפורד בנו “אנסמבל דיפוזיה”: אוסף של רכיבי דיפוזיה קטנים, שכל אחד מהם אומן על חלק אחר ממאגר הנתונים. כדי ליצור מודל נגדי — כלומר, מודל זהה כמעט לחלוטין אך ללא מקור מסוים — הם כיבו את כל הרכיבים שנחשפו לאותו מקור. כך יכלו לבדוק את התוצאה בלי לאמן את המודל מחדש ובלי להסתמך על קירוב.

החוקרים השוו את השיטה ל-24 מודלי דיפוזיה רגילים שאומנו על אותם נתונים, כאשר איכות הפלטים הייתה דומה במידה רחבה לפי מדדים מקובלים.

הניסויים נערכו על מאגרי מידע בגודל של 256 תמונות ועד יותר מ-160 אלף תמונות. בכל פעם נבדקה הסרה של אחד מסוגי המקורות הבאים:

• תמונה יחידה;
• כל היצירות של אמן אחד;
• כל התמונות של אדם מסוים.

מה קרה כשהסירו מקור מהאימון?

במאגרי הנתונים הגדולים יותר, הסרה של אחד מהמקורות האלה לא יצרה לעיתים שינוי ניכר בפלט שנוצר. במילים אחרות, גם אם תמונה מסוימת, יצירותיו של אמן או תמונותיו של אדם הוסרו ממאגר האימון, הפלט הרלוונטי נותר כמעט ללא שינוי.

החוקרים מתארים את הירידה הזו בהשפעה המדידה של כל מקור בשם “דעיכת הייחוס”. ככל שמספר התמונות גדל, התרומה של כל תמונה בודדת מתפזרת בין כמות גדולה יותר של מידע, ולכן קשה יותר להראות שפלט מסוים נגרם דווקא בגללה.

מה המשמעות האפשרית לתביעות זכויות יוצרים?

הממצא עשוי להקשות על טענה שלפיה תמונה מסוימת שנוצרה במערכת הקשורה ל-Midjourney, ל-OpenAI או ל-Microsoft נגרמה דווקא מתמונה ספציפית של התובע — או מכלל היצירות שלו. אם הסרה מדויקת של אותו חומר אינה משנה את הפלט, מבחן סיבתי כזה מספק בסיס מוגבל לייחוס הפלט לאותו מקור.

אבל זהו רק חלק אחד מהתמונה המשפטית. המחקר אינו מכריע בשאלות נפרדות, ובהן:

• האם החברה העתיקה יצירות בעת איסוף נתוני האימון;
• האם עצם האימון על יצירות מוגנות מפר זכויות יוצרים או עשוי להיחשב שימוש הוגן;
• האם הפלט דומה באופן מהותי ליצירה מוגנת;
• האם המודל הוגדר או הונחה בכוונה לחקות אמן מסוים.

לכן מדובר בראיות הנוגעות ליכולת לייחס פלט מסוים למקור מסוים — לא בפסק דין ולא בהכרעה משפטית.

למה זה לא “כרטיס חופשי” לחברות AI?

המחקר אינו טוען שמודלי דיפוזיה אינם מסוגלים לשנן מידע. במצבים מסוימים מודלים עדיין עלולים לשנן או לשחזר דוגמאות ממאגר האימון. “דעיכת הייחוס” פירושה שההשפעה של מקור יחיד נעשית לעיתים בלתי מדידה כאשר המאגר גדל — לא שהעתקה לעולם אינה מתרחשת.

בנוסף, הניסוי עסק במודלים ליצירת תמונות המבוססים על דיפוזיה. אי אפשר להחיל את מסקנותיו באופן אוטומטי על מודלי שפה או על ארכיטקטורות אחרות של בינה מלאכותית יוצרת.

המסקנה המעשית היא שבמקרים משפטיים ייתכן שיהיה צורך בראיות נוספות מעבר לניסיון להוכיח התאמה ישירה בין תמונה אחת לפלט אחד: תיעוד של אופן השגת נתוני האימון, ראיות לדמיון ישיר, בדיקות של התנהגות המודל מול הנחיות ממוקדות, מידע על מקוריות התמונה וחוות דעת מומחים. זו מסקנה הנובעת מהקושי שהמחקר הדגים לייחס סיבתיות לפלט יחיד כאשר המודל אומן בקנה מידה גדול.