מחקר MIT: תמונות שנוצרו ב-AI נעשות קשות יותר לייחוס למקורות האימון

מחקר של חוקרים מ-MIT CSAIL, ז׳נג דאי ודיוויד גיפורד, מצביע על בעיה שמחריפה ככל שמודלי דיפוזיה ליצירת תמונות גדלים: קשה יותר להוכיח שתמונת אימון מסוימת גרמה לתוצר מסוים. החוקרים מכנים את התופעה ״דעיכת ייחוס״ (attribution decay).

לממצא עשויות להיות השלכות על הדיון בזכויות יוצרים וביצירות שנוצרו באמצעות AI, אך חשוב לדייק במשמעותו. המחקר עוסק בייחוס סיבתי של תוצרים למידע אימוני במודלי דיפוזיה — לא בשאלה אם חברות הורשו לאסוף יצירות מוגנות, אם תוצר מסוים דומה באופן מהותי ליצירה מוגנת, או אם מודל מסוגל לשנן ולשחזר חומר מהאימון.

מהי ״דעיכת ייחוס״?

הרעיון פשוט יחסית: ככל שמודל לומד ממאגר תמונות גדול יותר, התרומה הניתנת למדידה של כל תמונת אימון בודדת לתמונה שנוצרת הולכת וקטנה. כאשר המודל והמאגר מגיעים לגודל מספיק, הסרת תמונה מסוימת עשויה שלא לשנות את התוצר כלל, או לשנות אותו באופן שאינו ניתן למדידה.

החוקרים בדקו גם הסרות רחבות יותר: את כל היצירות של אמן אחד ואת כל התצלומים של אדם מסוים. לפי תוצאות הניסוי, גם להסרות כאלה עשויה להיות השפעה מזערית או בלתי מורגשת כאשר המודל ומאגר הנתונים גדולים מספיק. הניסויים כללו 24 אנסמבלים של מודלי דיפוזיה ומאגרי מידע שנעו מ-256 תמונות ועד ליותר מ-160,000 תמונות.

אין פירוש הדבר שהתמונה לא מילאה שום תפקיד בתהליך האימון הכולל. המשמעות המצומצמת יותר היא שביחס לתוצר מסוים, ובמבחן ההסרה שנערך במחקר, התרומה הסיבתית של מקור יחיד עשויה להיות קטנה מכדי לזהותה.

איך פעל ״אנסמבל הדיפוזיה״?

בדיקה ישירה של השאלה הזו אינה פשוטה. השיטה המקובלת היא לאמן מחדש מודל לאחר הסרת תמונת מקור, ואז להשוות את התוצר החדש לתוצר המקורי. ביצוע התהליך עבור תמונות בודדות, אמנים או נושאים שונים עלול להיות יקר מאוד. בנוסף, שיטות קירוב אינן בהכרח מסירות את כל ההשפעות העקיפות של נתון האימון.

במקום זאת, דאי וגיפורד בנו אנסמבל דיפוזיה: כמה רכיבי דיפוזיה קטנים יותר, שאומנו על תתי-מערכים שונים וחופפים של נתונים. כדי לבדוק את השפעתו של מקור מסוים, החוקרים כיבו את הרכיבים שנחשפו לאותו מקור ויצרו את התוצר שהיה מתקבל אילו המקור לא נכלל באימון — בלי לאמן מחדש את המערכת כולה.

החוקרים השוו את השיטה ל-24 מודלי דיפוזיה רגילים שאומנו על אותם נתונים, ודיווחו על איכות תוצרים דומה באופן כללי לפי מדדים מקובלים.

כך התקבל מבחן הסרה מדויק בתוך הארכיטקטורה שלהם: אם התוצר נותר ללא שינוי לאחר שכל הרכיבים שנחשפו למקור מסוים כובו, הניסוי לא סיפק ראיה מדידה לכך שהמקור גרם לתוצר.

מה המשמעות לתביעות זכויות יוצרים?

דעיכת הייחוס עלולה להקשות על סוג מסוים של טענה: שתמונה מסוימת שנוצרה באמצעות מערכת AI נגרמה על ידי, או הועתקה מ-, תמונה של תובע מסוים או מכלול היצירות שלו. אם הסרה מדויקת של החומר אינה משנה את התוצר, מבחן הנגד הזה מספק מעט מאוד בסיס לייחוס התוצר למקור שהוסר.

סוגיה כזו עשויה לעלות בסכסוכים הנוגעים לשירותים ולמפתחי מודלים, ובהם חברות כמו Midjourney, OpenAI ו-Microsoft. עם זאת, המחקר אינו מכריע אם חברה כלשהי הפרה את החוק. הוא מספק ראיות לכך שקשה לבסס קשר סיבתי בין נתון אימון יחיד לבין תוצר יחיד.

כמה שאלות משפטיות נפרדות נותרות פתוחות:

• כיצד הושג מידע האימון? המחקר אינו קובע אם איסוף יצירה מוגנת או השימוש בה לצורך אימון היו חוקיים.
• האם התוצר דומה באופן מהותי ליצירה מוגנת? דמיון חזותי עשוי להיות רלוונטי גם כאשר קשה לייחס את התוצר לקובץ אימון מסוים.
• האם המערכת שיננה או שחזרה דוגמה? מודל עשוי לשחזר לעיתים חומר אימוני, וזו שאלה שונה מהוכחה שכל תוצר ניתן לייחוס למקור אחד.
• האם המערכת הוגדרה לחקות אמן? פרומפטים ממוקדים, אימון-עדין (fine-tuning) או דפוסי פעולה אחרים של המודל עשויים לספק ראיות שאינן נלכדות במבחן הסרה של תמונה בודדת.

בפועל, בתי משפט וחוקרים עשויים להידרש לתמונה ראייתית רחבה יותר: רישומי רכישת נתונים, מידע על מקוריות והיסטוריית הקבצים, ניתוח דמיון ישיר, בדיקות באמצעות פרומפטים ממוקדים, ראיות על התנהגות המודל וחוות דעת מומחים. זו מסקנה מעשית הנובעת מהקושי שהמחקר מצא בייחוס תוצר יחיד למקור יחיד — לא כלל משפטי חדש שנקבע במחקר.

למה זה לא ״כרטיס חופשי״ למפתחי AI?

אין לקרוא את הממצא כהוכחה שמודלי דיפוזיה אינם מעתיקים לעולם. המחקר מראה שהשפעתו הניתנת למדידה של מקור יחיד עלולה להפוך לזניחה ככל שמאגרי האימון גדלים. במצבים מסוימים, מודלים עדיין יכולים לשנן או לשחזר דוגמאות אימון.

גם היקף המחקר מוגבל: הוא בחן מחוללי תמונות המבוססים על דיפוזיה, ולכן אין להחיל את התוצאות אוטומטית על מודלי שפה או על ארכיטקטורות גנרטיביות אחרות.

הפרשנות המדויקת ביותר היא אפוא זהירה: מערכות דיפוזיה גדולות עשויות להקשות על ייחוס תוצר למקור אימון מסוים, גם כאשר המודל נחשף לתמונה מסוימת או ליצירותיו של אמן מסוים. הדבר עשוי להחליש מסלול אחד להוכחת אחריות על תוצר ספציפי, אך אינו פותר את השאלות הרחבות יותר על שיטות האימון, העתקה, חיקוי וזכויות קניין רוחני.