«Занепад атрибуції»: чому великі моделі генерації зображень втрачають зв’язок із даними навчання

Найбільшу виміряну різницю між оригінальним результатом і такими контрфактичними версіями назвали контрфактичним радіусом. Він слугував показником того, наскільки один вилучений елемент навчання міг змінити результат.

Що означає «занепад атрибуції»

Контрфактичний радіус зменшувався зі зростанням навчальних наборів. На практиці це означає, що після вилучення одного зображення результат дедалі важче відрізнити від початкового за показниками, використаними в дослідженні.

Висновок може здатися парадоксальним: додавання нових даних здатне ускладнювати прив’язку згенерованого зображення до будь-якого одного прикладу, навіть якщо цей приклад був у наборі для навчання. Модель може засвоювати широкі й взаємопов’язані закономірності з великої кількості джерел, а не покладатися на одну конкретну картинку під час створення певного результату.

На достатньо великому масштабі ефект поширювався не лише на окремі зображення. У тестованих контрфактичних сценаріях вилучення всіх робіт певного художника або всіх фотографій із конкретною людиною також могло практично не змінювати згенерований результат.

Саме тому автори говорять про «занепад», а не просто про слабкість інструментів пошуку. Проблема може полягати не в тому, що дослідникам бракує потужнішого способу трасування, а в тому, що причинний зв’язок між одним джерелом і одним результатом стає надто розподіленим, щоб його можна було ізолювати.

Як це може вплинути на позови щодо авторського права

Занепад атрибуції здатен ускладнити одну конкретну теорію позову: твердження, що спірний результат безпосередньо спричинили роботи названого художника або їхні копії в навчальних даних. Якщо вилучення всього доробку художника не змінює результат істотним чином, довести, що саме цей доробок був індивідуально необхідним для створення конкретного зображення, стає важче за критеріями такого причинного тесту.

Це може мати значення для спорів навколо комерційних генераторів зображень і тверджень, що моделі копіюють стилі художників. Масштабне навчання послаблює просту схему «одне джерело — один результат», у якій впізнаване зображення трактують як прямий продукт конкретної роботи або автора. Тому дослідження потенційно ускладнює справи про інтелектуальну власність, пов’язані з генеративними системами зображень.

Однак робота MIT не визначає, чи порушила конкретна компанія авторське право, і сама по собі не створює юридичного захисту. У таких спорах можуть розглядатися різні питання: чи копіювалися охоронювані твори під час навчання, чи є результат істотно подібним до захищеної роботи, що саме система здатна відтворити за певного запиту, а також які збитки або договірні зобов’язання виникли.

Технічне значення фрази «результат не можна атрибутувати» не слід підміняти юридичним висновком «твір не копіювали».

Чому це не доводить відсутність запам’ятовування

Експеримент перевіряє чутливість моделі до вилучення окремих елементів навчання. Він не охоплює всі можливі способи, якими модель може зберігати або відтворювати інформацію.

Модель може майже не залежати від одного зображення в тесті на вилучення і водночас відтворювати певну роботу за окремих запитів або параметрів генерації. Результат також може бути схожим на захищений твір, навіть якщо не вдалося показати, що жодне конкретне навчальне зображення не було причинно необхідним для його створення.

Інакше кажучи, це різні твердження:

• «Це зображення вплинуло на результат» — тест на вилучення виявляє вимірювану зміну після усунення його впливу.
• «Модель бачила або зберегла це зображення» — модель могла отримати до нього доступ під час навчання або запам’ятати окремі його властивості.
• «Результат копіює захищений твір» — технічний і юридичний висновок, для якого потрібні додаткові докази.

Занепад атрибуції безпосередньо стосується першого питання. Друге й третє він не розв’язує.

Результат поки не можна автоматично поширювати на великі мовні моделі

Дослідження стосується дифузійних генеративних моделей для зображень та пов’язаних із ними аудіовізуальних матеріалів. Архітектуру ансамблю й виявлену закономірність масштабування не можна автоматично узагальнювати на великі мовні моделі — LLM.

Мовні моделі мають іншу архітектуру, процедури навчання, токенізацію та характер генерації. Робота може підказати напрям для майбутніх досліджень атрибуції, але не доводить, що такий самий тип занепаду атрибуції відбувається в LLM.

Які докази все одно знадобляться

Якщо потрібно з’ясувати, чи скопіювала система ШІ певну роботу, занепад атрибуції є лише одним елементом доказової бази. Суди й технічні експерти можуть додатково аналізувати:

• чи здатна система відтворити конкретну роботу за контрольованих запитів;
• візуальну подібність результату до нібито скопійованого твору;
• походження даних, доступ до них і документацію щодо набору для навчання;
• результати аудиту моделі та технічну документацію системи;
• чи відображає результат загальний стиль, чи впізнавані елементи охоронюваного вираження; і
• правові стандарти, що застосовуються в конкретному спорі.

Головний висновок дослідження вужчий — і корисніший — за твердження, ніби ШІ просто «забуває» свої джерела. Коли набори даних для дифузійних моделей зростають, причинний внесок окремого прикладу в конкретний результат може ставати надто розмитим для виявлення. Це ускладнює пошук джерела, але не робить неможливими доведення запам’ятовування, відтворення чи порушення авторського права іншими методами.