Дослідження MIT: що масштабніша модель ШІ, то важче простежити походження зображення

Це не означає, що конкретне зображення зовсім не відігравало ролі під час загального навчання моделі. Йдеться про інше: для певного результату й у межах тесту на видалення його індивідуальний причинний внесок може бути надто малим, щоб його виявити.

Як працював «дифузійний ансамбль»

Безпосередньо перевірити таке питання складно. Звичайний підхід передбачав би повторне навчання моделі після вилучення вихідного зображення, а потім порівняння нового результату з початковим. Якщо робити це для окремих зображень, художників або людей, обчислювальні витрати швидко зростають. До того ж приблизні методи не завжди усувають усі подальші наслідки вилучення даних.

Замість цього Dai і Gifford створили дифузійний ансамбль — сукупність менших дифузійних компонентів, навчених на різних частково перекривних піднаборах даних. Щоб перевірити вплив джерела, дослідники вимикали всі компоненти, які бачили це джерело, і генерували результат у контрфактичному сценарії — ніби відповідного матеріалу не було в навчанні. Повторно навчати всю систему не потрібно було.

Командa порівняла цей підхід із 24 звичайними дифузійними моделями, навченими на тих самих даних. За стандартними показниками якість результатів була загалом зіставною.

У межах запропонованої архітектури це дало змогу провести точний тест на видалення: якщо після вимкнення всіх компонентів, які працювали з певним джерелом, результат не змінювався, експеримент не надавав вимірюваних доказів того, що саме це джерело спричинило результат.

Що це може означати для позовів про авторське право

«Згасання атрибуції» потенційно ускладнює конкретний тип вимог: твердження, що певне згенероване зображення було спричинене або скопійоване з однієї роботи позивача чи з усього його творчого доробку. Якщо точне вилучення цього матеріалу не змінює результат, такий контрфактичний тест майже не допомагає приписати результат саме цьому джерелу.

Подібні питання можуть виникати у спорах навколо сервісів генерації зображень і розробників моделей, зокрема Midjourney, OpenAI та Microsoft. Однак саме дослідження не встановлює юридичної відповідальності жодної компанії. Воно демонструє, наскільки складно довести причинний зв’язок між окремими навчальними даними та окремим результатом.

Залишаються відкритими кілька інших питань:

• Як отримали навчальні дані? Дослідження не визначає, чи було законним збирання або використання конкретного твору, захищеного авторським правом.
• Чи є результат істотно схожим на охоронювану роботу? Візуальна схожість може мати значення навіть тоді, коли причинний зв’язок з одним навчальним файлом важко довести.
• Чи запам’ятала модель і відтворила приклад? У деяких умовах модель може відтворювати навчальні матеріали. Це інше питання, ніж доведення того, що кожен результат можна приписати одному джерелу.
• Чи налаштували систему на наслідування художника? Цільові запити, донавчання або інші особливості поведінки моделі можуть бути доказами, яких не охоплює тест на видалення одного зображення.

На практиці судам та експертам, імовірно, знадобиться ширший масив доказів: документи про отримання даних, інформація про походження матеріалів, безпосередній аналіз схожості, перевірки поведінки моделі на цільових запитах і висновки фахівців. Це випливає з того, що дослідження показало ненадійність зв’язки «одне зображення — один результат» у великих системах; саме по собі воно не створює юридичного правила.

Чому це не індульгенція для розробників ШІ

«Згасання атрибуції» не доводить, що дифузійні моделі ніколи не копіюють. Висновок дослідників полягає в тому, що зі зростанням навчальних наборів вимірюваний вплив окремого джерела може стати мізерним. У певних ситуаціях моделі все одно здатні запам’ятовувати або відтворювати навчальні приклади.

Є й обмеження щодо поширення результатів. Робота вивчала генератори зображень на основі дифузії, тому її висновки не можна автоматично переносити на мовні моделі чи інші генеративні архітектури.

Найточніше трактування таке: великі дифузійні системи можуть ускладнювати атрибуцію конкретного результату окремому джерелу, навіть якщо навчальні дані містили певне зображення або роботи конкретного художника. Це може послабити один зі способів доведення відповідальності за конкретний результат, але не знімає ширших питань щодо практик навчання, копіювання, наслідування та захисту інтелектуальної власності.