המבנה הזה מאפשר לשאול שאלה מדויקת: מה היה המודל מייצר אילו התמונה הזו לא הייתה משפיעה על האימון? במקום לאמן מחדש מודל גדול מתחילתו, החוקרים יכולים להשבית את הרכיבים שנחשפו לתמונה שנבחרה ולהפיק פלט השוואתי. כך מתקבלת הסרה של השפעת התמונה — ולא רק אומדן עקיף שלה.

הצוות בדק 24 אנסמבלים של מודלי דיפוזיה על פני שבעה מאגרי תמונות ציבוריים. גודל המאגרים נע בין 256 תמונות ליותר מ-160,000, וכך ניתן היה לבחון כיצד משתנה הייחוס כאשר כמות נתוני האימון גדלה. החוקרים השוו בין תמונה שנוצרה במקור לבין גרסאות נגדיות שנוצרו לאחר השמטת דוגמות אימון מועמדות.

ההבדל הגדול ביותר שנמדד בין הפלט המקורי לבין הפלטים הנגדיים נקרא «רדיוס התרחיש הנגדי» (counterfactual radius). הוא שימש מדד למידת השינוי שתמונת אימון אחת שהושמטה הייתה יכולה לגרום לתוצאה.

מה פירוש «דעיכת הייחוס»

רדיוס התרחיש הנגדי הצטמצם ככל שמאגרי האימון גדלו. במילים פשוטות, הסרת תמונה אחת הפיקה יותר ויותר תוצאה שקשה להבדיל בינה לבין הפלט המקורי במסגרת המדידה של המחקר.

המסקנה עשויה להישמע מנוגדת לאינטואיציה: הוספת נתוני אימון יכולה להפוך תמונה שנוצרה ב-AI לפחות ניתנת לייחוס לדוגמה יחידה, גם כאשר אותה דוגמה אכן הייתה חלק ממאגר האימון. במקום להישען על תמונה מזוהה אחת, המודל עשוי ללמוד דפוסים רחבים וחופפים ממקורות רבים.

בקנה מידה גדול מספיק, התופעה חרגה מתמונה בודדת. החוקרים דיווחו כי הסרת כל התמונות של אמן מסוים, או את כל התצלומים שבהם מופיע אדם מסוים, יכלה גם היא להשאיר את הדוגמה שנוצרה ללא שינוי מהותי בתרחיש הנגדי שנבדק.

לכן החוקרים מתארים את התופעה כדעיכה ולא רק ככשל של כלי איתור. ייתכן שלא מדובר רק בכך שהחוקרים זקוקים לכלי חזק יותר; הקשר הסיבתי בין מקור יחיד לפלט יחיד עצמו נעשה מפוזר מדי מכדי לבודד אותו.

מה המשמעות האפשרית לתביעות זכויות יוצרים בתחום ה-AI

דעיכת הייחוס עלולה להקשות על הוכחת תיאוריה מסוימת בתביעת זכויות יוצרים: שהפלט שבמחלוקת נגרם ישירות מיצירות של אמן מסוים, או מהעתקים של יצירותיו, שהופיעו בנתוני האימון. אם הסרת כל היצירות של אותו אמן אינה משנה באופן מהותי את הפלט, קשה יותר לטעון שהקורפוס שלו היה הכרחי ליצירת התמונה המסוימת — לפחות לפי המבחן הסיבתי של המחקר.

הדבר עשוי להיות משמעותי במחלוקות הנוגעות למחוללי תמונות מסחריים, ובטענות שלפיהן מודלים מעתיקים סגנונות של אמנים. אימון על מאגרי ענק מחליש את הסיפור הפשוט של «מקור אחד»: תמונה מזוהה אינה בהכרח תוצר ישיר של יצירה אחת או של אמן יחיד שניתן להצביע עליו. משום כך המחקר עשוי לסבך תיקים בתחום הקניין הרוחני הנוגעים למערכות ליצירת תמונות.

עם זאת, המחקר אינו קובע אם חברה כלשהי הפרה זכויות יוצרים, ואינו יוצר כשלעצמו הגנה משפטית. תביעות כאלה עשויות לעסוק בשאלות שונות: האם יצירות מוגנות הועתקו במהלך האימון, האם פלט מסוים דומה במידה מהותית ליצירה מוגנת, מה המערכת מסוגלת לשחזר תחת הנחיות מסוימות, ומהו הנזק או אילו התחייבויות חוזיות חלים במקרה הנדון.

המשמעות הטכנית של «לא ניתן לייחס» אינה זהה למשמעות המשפטית של «לא הועתק».

מדוע המחקר אינו מוכיח שאין שינון

הניסוי בדק את הרגישות של הפלט להסרת יחידות אימון. הוא לא בחן כל דרך שבה מודל עשוי לשמר מידע או לשחזר אותו.

מודל יכול להראות תלות מועטה בתמונה יחידה במבחן המחיקה של האנסמבל, ובכל זאת לשחזר יצירה מסוימת תחת הנחיות מסוימות או בתנאי דגימה שונים. פלט יכול גם להידמות ליצירה מוגנת, אפילו כאשר לא ניתן להראות שתמונת אימון יחידה הייתה הכרחית מבחינה סיבתית להפקתו.

לכן חשוב להבחין בין שלוש טענות שונות:

• «התמונה השפיעה על הפלט הזה» — מבחן המחיקה מצא שינוי מדיד לאחר הסרת השפעת התמונה.
• «המודל ראה את התמונה או שמר אותה» — המודל נחשף אליה, או ייתכן ששינן היבטים ממנה.
• «הפלט מעתיק יצירה מוגנת» — מסקנה משפטית וטכנית שדורשת ראיות נוספות.

דעיכת הייחוס עוסקת ישירות בשאלה הראשונה. היא אינה מכריעה את השנייה או את השלישית.

התוצאה עדיין אינה חלה על מודלי שפה גדולים

המחקר עוסק במודלים גנרטיביים מבוססי דיפוזיה ליצירת תמונות ולמדיה אורקולית קשורה. אין להחיל באופן אוטומטי את מבנה האנסמבל ואת דפוס ההתרחבות שנצפה במחקר על מודלי שפה גדולים המבוססים על טרנספורמרים.

למודלי שפה יש ארכיטקטורות, שיטות אימון, ייצוגי טוקנים והתנהגות פלט שונים. המחקר עשוי להציע כיוון ניסויי מעניין למחקרים עתידיים על ייחוס, אך הוא אינו מוכיח שאותה צורה של דעיכת ייחוס מתרחשת גם ב-LLM.

אילו בדיקות עדיין יידרשו

כאשר השאלה היא אם מערכת AI העתיקה יצירה, דעיכת הייחוס היא רק ראיה אחת מתוך מכלול. בתי משפט וחוקרים טכנולוגיים עשויים עדיין לבחון:

• האם המערכת מסוגלת לשחזר יצירה מסוימת תחת הנחיות מבוקרות;
• את מידת הדמיון החזותי בין הפלט לבין היצירה שלכאורה הועתקה;
• נתוני מקור, הרשאות גישה ורישומים הנוגעים לנתוני האימון;
• תוצאות של ביקורת מודל ותיעוד המערכת;
• האם הפלט משקף סגנון רחב או ביטוי מוגן ומזוהה; וכן
• את הסטנדרטים המשפטיים החלים על המחלוקת הספציפית.

הלקח המרכזי של המחקר מצומצם — ולכן גם שימושי — יותר מהטענה ש-AI «שוכח» את המקורות שלו. ככל שמאגרי הדיפוזיה גדלים, התרומה הסיבתית של דוגמות אימון יחידות יכולה להתפזר עד שלא ניתן לזהותה בפלט מסוים. הדבר מקשה על ייחוס המקור, אך אינו הופך שינון, שחזור או בחינה של זכויות יוצרים לבלתי אפשריים.

המבנה הזה מאפשר לשאול שאלה מדויקת: מה היה המודל מייצר אילו התמונה הזו לא הייתה משפיעה על האימון? במקום לאמן מחדש מודל גדול מתחילתו, החוקרים יכולים להשבית את הרכיבים שנחשפו לתמונה שנבחרה ולהפיק פלט השוואתי. כך מתקבלת הסרה של השפעת התמונה — ולא רק אומדן עקיף שלה.

הצוות בדק 24 אנסמבלים של מודלי דיפוזיה על פני שבעה מאגרי תמונות ציבוריים. גודל המאגרים נע בין 256 תמונות ליותר מ-160,000, וכך ניתן היה לבחון כיצד משתנה הייחוס כאשר כמות נתוני האימון גדלה. החוקרים השוו בין תמונה שנוצרה במקור לבין גרסאות נגדיות שנוצרו לאחר השמטת דוגמות אימון מועמדות.

ההבדל הגדול ביותר שנמדד בין הפלט המקורי לבין הפלטים הנגדיים נקרא «רדיוס התרחיש הנגדי» (counterfactual radius). הוא שימש מדד למידת השינוי שתמונת אימון אחת שהושמטה הייתה יכולה לגרום לתוצאה.

מה פירוש «דעיכת הייחוס»

רדיוס התרחיש הנגדי הצטמצם ככל שמאגרי האימון גדלו. במילים פשוטות, הסרת תמונה אחת הפיקה יותר ויותר תוצאה שקשה להבדיל בינה לבין הפלט המקורי במסגרת המדידה של המחקר.

המסקנה עשויה להישמע מנוגדת לאינטואיציה: הוספת נתוני אימון יכולה להפוך תמונה שנוצרה ב-AI לפחות ניתנת לייחוס לדוגמה יחידה, גם כאשר אותה דוגמה אכן הייתה חלק ממאגר האימון. במקום להישען על תמונה מזוהה אחת, המודל עשוי ללמוד דפוסים רחבים וחופפים ממקורות רבים.

בקנה מידה גדול מספיק, התופעה חרגה מתמונה בודדת. החוקרים דיווחו כי הסרת כל התמונות של אמן מסוים, או את כל התצלומים שבהם מופיע אדם מסוים, יכלה גם היא להשאיר את הדוגמה שנוצרה ללא שינוי מהותי בתרחיש הנגדי שנבדק.

לכן החוקרים מתארים את התופעה כדעיכה ולא רק ככשל של כלי איתור. ייתכן שלא מדובר רק בכך שהחוקרים זקוקים לכלי חזק יותר; הקשר הסיבתי בין מקור יחיד לפלט יחיד עצמו נעשה מפוזר מדי מכדי לבודד אותו.

מה המשמעות האפשרית לתביעות זכויות יוצרים בתחום ה-AI

דעיכת הייחוס עלולה להקשות על הוכחת תיאוריה מסוימת בתביעת זכויות יוצרים: שהפלט שבמחלוקת נגרם ישירות מיצירות של אמן מסוים, או מהעתקים של יצירותיו, שהופיעו בנתוני האימון. אם הסרת כל היצירות של אותו אמן אינה משנה באופן מהותי את הפלט, קשה יותר לטעון שהקורפוס שלו היה הכרחי ליצירת התמונה המסוימת — לפחות לפי המבחן הסיבתי של המחקר.

הדבר עשוי להיות משמעותי במחלוקות הנוגעות למחוללי תמונות מסחריים, ובטענות שלפיהן מודלים מעתיקים סגנונות של אמנים. אימון על מאגרי ענק מחליש את הסיפור הפשוט של «מקור אחד»: תמונה מזוהה אינה בהכרח תוצר ישיר של יצירה אחת או של אמן יחיד שניתן להצביע עליו. משום כך המחקר עשוי לסבך תיקים בתחום הקניין הרוחני הנוגעים למערכות ליצירת תמונות.

עם זאת, המחקר אינו קובע אם חברה כלשהי הפרה זכויות יוצרים, ואינו יוצר כשלעצמו הגנה משפטית. תביעות כאלה עשויות לעסוק בשאלות שונות: האם יצירות מוגנות הועתקו במהלך האימון, האם פלט מסוים דומה במידה מהותית ליצירה מוגנת, מה המערכת מסוגלת לשחזר תחת הנחיות מסוימות, ומהו הנזק או אילו התחייבויות חוזיות חלים במקרה הנדון.

המשמעות הטכנית של «לא ניתן לייחס» אינה זהה למשמעות המשפטית של «לא הועתק».

מדוע המחקר אינו מוכיח שאין שינון

הניסוי בדק את הרגישות של הפלט להסרת יחידות אימון. הוא לא בחן כל דרך שבה מודל עשוי לשמר מידע או לשחזר אותו.

מודל יכול להראות תלות מועטה בתמונה יחידה במבחן המחיקה של האנסמבל, ובכל זאת לשחזר יצירה מסוימת תחת הנחיות מסוימות או בתנאי דגימה שונים. פלט יכול גם להידמות ליצירה מוגנת, אפילו כאשר לא ניתן להראות שתמונת אימון יחידה הייתה הכרחית מבחינה סיבתית להפקתו.

לכן חשוב להבחין בין שלוש טענות שונות:

• «התמונה השפיעה על הפלט הזה» — מבחן המחיקה מצא שינוי מדיד לאחר הסרת השפעת התמונה.
• «המודל ראה את התמונה או שמר אותה» — המודל נחשף אליה, או ייתכן ששינן היבטים ממנה.
• «הפלט מעתיק יצירה מוגנת» — מסקנה משפטית וטכנית שדורשת ראיות נוספות.

דעיכת הייחוס עוסקת ישירות בשאלה הראשונה. היא אינה מכריעה את השנייה או את השלישית.

התוצאה עדיין אינה חלה על מודלי שפה גדולים

המחקר עוסק במודלים גנרטיביים מבוססי דיפוזיה ליצירת תמונות ולמדיה אורקולית קשורה. אין להחיל באופן אוטומטי את מבנה האנסמבל ואת דפוס ההתרחבות שנצפה במחקר על מודלי שפה גדולים המבוססים על טרנספורמרים.

למודלי שפה יש ארכיטקטורות, שיטות אימון, ייצוגי טוקנים והתנהגות פלט שונים. המחקר עשוי להציע כיוון ניסויי מעניין למחקרים עתידיים על ייחוס, אך הוא אינו מוכיח שאותה צורה של דעיכת ייחוס מתרחשת גם ב-LLM.

אילו בדיקות עדיין יידרשו

כאשר השאלה היא אם מערכת AI העתיקה יצירה, דעיכת הייחוס היא רק ראיה אחת מתוך מכלול. בתי משפט וחוקרים טכנולוגיים עשויים עדיין לבחון:

• האם המערכת מסוגלת לשחזר יצירה מסוימת תחת הנחיות מבוקרות;
• את מידת הדמיון החזותי בין הפלט לבין היצירה שלכאורה הועתקה;
• נתוני מקור, הרשאות גישה ורישומים הנוגעים לנתוני האימון;
• תוצאות של ביקורת מודל ותיעוד המערכת;
• האם הפלט משקף סגנון רחב או ביטוי מוגן ומזוהה; וכן
• את הסטנדרטים המשפטיים החלים על המחלוקת הספציפית.

הלקח המרכזי של המחקר מצומצם — ולכן גם שימושי — יותר מהטענה ש-AI «שוכח» את המקורות שלו. ככל שמאגרי הדיפוזיה גדלים, התרומה הסיבתית של דוגמות אימון יחידות יכולה להתפזר עד שלא ניתן לזהותה בפלט מסוים. הדבר מקשה על ייחוס המקור, אך אינו הופך שינון, שחזור או בחינה של זכויות יוצרים לבלתי אפשריים.