מה גילו חוקרי MIT על תופעת "דעיכת הייחוס" במודלי יצירת תמונות?

מה הראתה "דעיכת הייחוס"?

ככל שמאגר האימון גדל, הרדיוס הנגדי קטן. כלומר, הסרה של תמונת אימון יחידה גרמה לשינוי הולך ופחות מורגש בתמונה שנוצרה.

בקנה מידה גדול מספיק, התופעה עשויה להתרחב מעבר לתמונה אחת: גם הסרה של כל יצירותיו של אמן מסוים, או של כל התמונות שבהן מופיע אדם מסוים, לא שינתה לעתים באופן ניכר את הפלט שנוצר.

במונחים של הניסוי, המשמעות היא שאי־אפשר לייחס לאותה יחידת אימון אחריות סיבתית לפלט אם השמטתה אינה משנה אותו. זהו אי־ייחוס לפי המדד הספציפי של המחקר — לא הוכחה לכך שלא הייתה העתקה או שלא נשמר מידע כלשהו.

מה המשמעות האפשרית לזכויות יוצרים?

הממצא עשוי להקשות על תביעה שמנסה להראות כי תמונה מסוימת נוצרה כתוצאה ישירה מיצירותיו של אמן מסוים או מהעתקות של סגנונו. אם הסרת כל גוף היצירה של האמן אינה משנה בפועל את הפלט, לתובע עלול להיות קשה להוכיח תרומה סיבתית ישירה וממוקדת לפלט המסוים.

עם זאת, המחקר אינו קובע כלל משפטי ואינו מכריע תביעות נגד חברות כמו Midjourney, OpenAI או Microsoft. סכסוכי זכויות יוצרים עשויים לעסוק גם בהעתקה בלתי מורשית במהלך האימון, בדמיון מהותי בין פלט מסוים ליצירה מוגנת, בגישה ליצירה, בנזק לשוק, בתנאי שימוש ובהיבטים נוספים.

המגבלות שחשוב לזכור

• זה לא מחקר שמפריך שינון: פלט יכול להיות בלתי ניתן לייחוס לתמונת אימון יחידה לפי מבחן ההסרה, ובכל זאת מודל עשוי לשנן חומר, לשחזר אותו בעקבות הנחיות מסוימות, או ליצור פלט הדומה באופן מהותי ליצירה מוגנת. המחקר בוחן רגישות סיבתית להסרת יחידות אימון, ולא כל צורה של שינון או הפרת זכויות.
• המסקנות אינן חלות אוטומטית על מודלי שפה גדולים: המחקר עוסק במודלי דיפוזיה ליצירת מדיה חזותית. מכאן לא נובע שהטכניקה או תוצאת קנה המידה הודגמו גם במודלי שפה גדולים המבוססים על טרנספורמרים.
• זה אינו תחליף לראיות אחרות: בחינה משפטית או טכנית עדיין עשויה לדרוש בדיקות שחזור לפי הנחיות, ניתוח דמיון ומקור, תיעוד של נתוני האימון והמערכת, ביקורת של המודל וניתוח משפטי רלוונטי.

במילים פשוטות, "דעיכת הייחוס" אומרת שככל שמודל לומד ממאגר רחב יותר, סיפור סיבתי שמצביע על מקור יחיד עלול להישבר. היא אינה אומרת שאי־אפשר להוכיח העתקה או הפרה באמצעות ראיות אחרות.