Исследование MIT: чем больше данных у генератора изображений, тем сложнее установить вклад отдельной работы

Эксперименты проводились на наборах от 256 до более чем 160 000 изображений. Исследователи поочерёдно проверяли, что произойдёт при удалении:

• одной отдельной фотографии или иллюстрации;
• всех работ одного художника;
• всех фотографий одного человека.

На больших объёмах данных удаление таких источников часто не вызывало заметных изменений в результатах генерации. Именно постепенное уменьшение измеримого влияния отдельного источника авторы и называют «затуханием атрибуции».

Что это означает для споров об авторском праве

Вывод может осложнить утверждения о том, что конкретный результат системы, связанной, например, с Midjourney, OpenAI или Microsoft, был причинно обусловлен определённым изображением истца или всем корпусом работ конкретного автора. Если точное удаление этих материалов не меняет соответствующий результат, такой контрфактический тест даёт мало оснований приписывать ему происхождение от данного источника.

Но эксперимент не отвечает на ряд самостоятельных юридических вопросов. В частности, он не устанавливает:

• законно ли компания собрала и скопировала произведения для обучающего набора;
• является ли само обучение нарушением авторского права или подпадает под доктрину добросовестного использования;
• насколько результат похож на охраняемое произведение;
• была ли модель намеренно настроена или пользовательский запрос специально сформулирован для имитации определённого художника.

Иными словами, исследование посвящено причинной связи между конкретными обучающими материалами и отдельными результатами генерации, а не выносит правовую оценку действиям компаний или пользователей.

Почему это не «индульгенция» для генеративного ИИ

«Затухание атрибуции» не означает, что диффузионные модели неспособны запоминать обучающие данные. В определённых условиях они могут воспроизводить отдельные примеры или близкие к ним копии. Результат MIT показывает лишь то, что при увеличении набора данных влияние одного источника на конкретный результат часто становится неизмеримым — а не то, что копирование никогда не происходит.

Кроме того, работа изучала именно диффузионные генераторы изображений. Её выводы нельзя автоматически распространять на языковые модели и другие типы генеративных систем.

Поэтому в юридических спорах, вероятно, потребуется учитывать не только возможность сопоставить одну картинку с одним результатом. Значение могут иметь история формирования обучающего набора, документы о получении данных, прямые признаки сходства, поведение модели при целевых запросах, сведения о происхождении изображений и заключения экспертов. Это следует из продемонстрированной в исследовании сложности установить причинный вклад отдельного источника в результат модели, обученной на масштабном наборе данных.