החוקרים השוו את השיטה ל-24 מודלי דיפוזיה רגילים שאומנו על אותם נתונים, כאשר איכות הפלטים הייתה דומה במידה רחבה לפי מדדים מקובלים.

הניסויים נערכו על מאגרי מידע בגודל של 256 תמונות ועד יותר מ-160 אלף תמונות. בכל פעם נבדקה הסרה של אחד מסוגי המקורות הבאים:

• תמונה יחידה;
• כל היצירות של אמן אחד;
• כל התמונות של אדם מסוים.

מה קרה כשהסירו מקור מהאימון?

במאגרי הנתונים הגדולים יותר, הסרה של אחד מהמקורות האלה לא יצרה לעיתים שינוי ניכר בפלט שנוצר. במילים אחרות, גם אם תמונה מסוימת, יצירותיו של אמן או תמונותיו של אדם הוסרו ממאגר האימון, הפלט הרלוונטי נותר כמעט ללא שינוי.

החוקרים מתארים את הירידה הזו בהשפעה המדידה של כל מקור בשם “דעיכת הייחוס”. ככל שמספר התמונות גדל, התרומה של כל תמונה בודדת מתפזרת בין כמות גדולה יותר של מידע, ולכן קשה יותר להראות שפלט מסוים נגרם דווקא בגללה.

מה המשמעות האפשרית לתביעות זכויות יוצרים?

הממצא עשוי להקשות על טענה שלפיה תמונה מסוימת שנוצרה במערכת הקשורה ל-Midjourney, ל-OpenAI או ל-Microsoft נגרמה דווקא מתמונה ספציפית של התובע — או מכלל היצירות שלו. אם הסרה מדויקת של אותו חומר אינה משנה את הפלט, מבחן סיבתי כזה מספק בסיס מוגבל לייחוס הפלט לאותו מקור.

אבל זהו רק חלק אחד מהתמונה המשפטית. המחקר אינו מכריע בשאלות נפרדות, ובהן:

• האם החברה העתיקה יצירות בעת איסוף נתוני האימון;
• האם עצם האימון על יצירות מוגנות מפר זכויות יוצרים או עשוי להיחשב שימוש הוגן;
• האם הפלט דומה באופן מהותי ליצירה מוגנת;
• האם המודל הוגדר או הונחה בכוונה לחקות אמן מסוים.

לכן מדובר בראיות הנוגעות ליכולת לייחס פלט מסוים למקור מסוים — לא בפסק דין ולא בהכרעה משפטית.

למה זה לא “כרטיס חופשי” לחברות AI?

המחקר אינו טוען שמודלי דיפוזיה אינם מסוגלים לשנן מידע. במצבים מסוימים מודלים עדיין עלולים לשנן או לשחזר דוגמאות ממאגר האימון. “דעיכת הייחוס” פירושה שההשפעה של מקור יחיד נעשית לעיתים בלתי מדידה כאשר המאגר גדל — לא שהעתקה לעולם אינה מתרחשת.

בנוסף, הניסוי עסק במודלים ליצירת תמונות המבוססים על דיפוזיה. אי אפשר להחיל את מסקנותיו באופן אוטומטי על מודלי שפה או על ארכיטקטורות אחרות של בינה מלאכותית יוצרת.

המסקנה המעשית היא שבמקרים משפטיים ייתכן שיהיה צורך בראיות נוספות מעבר לניסיון להוכיח התאמה ישירה בין תמונה אחת לפלט אחד: תיעוד של אופן השגת נתוני האימון, ראיות לדמיון ישיר, בדיקות של התנהגות המודל מול הנחיות ממוקדות, מידע על מקוריות התמונה וחוות דעת מומחים. זו מסקנה הנובעת מהקושי שהמחקר הדגים לייחס סיבתיות לפלט יחיד כאשר המודל אומן בקנה מידה גדול.

החוקרים השוו את השיטה ל-24 מודלי דיפוזיה רגילים שאומנו על אותם נתונים, כאשר איכות הפלטים הייתה דומה במידה רחבה לפי מדדים מקובלים.

הניסויים נערכו על מאגרי מידע בגודל של 256 תמונות ועד יותר מ-160 אלף תמונות. בכל פעם נבדקה הסרה של אחד מסוגי המקורות הבאים:

• תמונה יחידה;
• כל היצירות של אמן אחד;
• כל התמונות של אדם מסוים.

מה קרה כשהסירו מקור מהאימון?

במאגרי הנתונים הגדולים יותר, הסרה של אחד מהמקורות האלה לא יצרה לעיתים שינוי ניכר בפלט שנוצר. במילים אחרות, גם אם תמונה מסוימת, יצירותיו של אמן או תמונותיו של אדם הוסרו ממאגר האימון, הפלט הרלוונטי נותר כמעט ללא שינוי.

החוקרים מתארים את הירידה הזו בהשפעה המדידה של כל מקור בשם “דעיכת הייחוס”. ככל שמספר התמונות גדל, התרומה של כל תמונה בודדת מתפזרת בין כמות גדולה יותר של מידע, ולכן קשה יותר להראות שפלט מסוים נגרם דווקא בגללה.

מה המשמעות האפשרית לתביעות זכויות יוצרים?

הממצא עשוי להקשות על טענה שלפיה תמונה מסוימת שנוצרה במערכת הקשורה ל-Midjourney, ל-OpenAI או ל-Microsoft נגרמה דווקא מתמונה ספציפית של התובע — או מכלל היצירות שלו. אם הסרה מדויקת של אותו חומר אינה משנה את הפלט, מבחן סיבתי כזה מספק בסיס מוגבל לייחוס הפלט לאותו מקור.

אבל זהו רק חלק אחד מהתמונה המשפטית. המחקר אינו מכריע בשאלות נפרדות, ובהן:

• האם החברה העתיקה יצירות בעת איסוף נתוני האימון;
• האם עצם האימון על יצירות מוגנות מפר זכויות יוצרים או עשוי להיחשב שימוש הוגן;
• האם הפלט דומה באופן מהותי ליצירה מוגנת;
• האם המודל הוגדר או הונחה בכוונה לחקות אמן מסוים.

לכן מדובר בראיות הנוגעות ליכולת לייחס פלט מסוים למקור מסוים — לא בפסק דין ולא בהכרעה משפטית.

למה זה לא “כרטיס חופשי” לחברות AI?

המחקר אינו טוען שמודלי דיפוזיה אינם מסוגלים לשנן מידע. במצבים מסוימים מודלים עדיין עלולים לשנן או לשחזר דוגמאות ממאגר האימון. “דעיכת הייחוס” פירושה שההשפעה של מקור יחיד נעשית לעיתים בלתי מדידה כאשר המאגר גדל — לא שהעתקה לעולם אינה מתרחשת.

בנוסף, הניסוי עסק במודלים ליצירת תמונות המבוססים על דיפוזיה. אי אפשר להחיל את מסקנותיו באופן אוטומטי על מודלי שפה או על ארכיטקטורות אחרות של בינה מלאכותית יוצרת.

המסקנה המעשית היא שבמקרים משפטיים ייתכן שיהיה צורך בראיות נוספות מעבר לניסיון להוכיח התאמה ישירה בין תמונה אחת לפלט אחד: תיעוד של אופן השגת נתוני האימון, ראיות לדמיון ישיר, בדיקות של התנהגות המודל מול הנחיות ממוקדות, מידע על מקוריות התמונה וחוות דעת מומחים. זו מסקנה הנובעת מהקושי שהמחקר הדגים לייחס סיבתיות לפלט יחיד כאשר המודל אומן בקנה מידה גדול.