Как проходил эксперимент

Вместо математической оценки влияния каждой картинки исследователи создали специальную архитектуру — «диффузионный ансамбль». Она состоит из множества небольших диффузионных компонентов, каждый из которых обучался на отдельном фрагменте данных.

Чтобы проверить, что произошло бы без конкретного изображения, учёные отключали все компоненты, которые видели это изображение во время обучения. Такой подход позволил получить точную контрфактическую модель без повторного обучения и без приблизительных расчётов.

Затем результаты сравнили с 24 обычными диффузионными моделями, обученными на тех же данных. По стандартным показателям качество их работы было сопоставимым.

Эксперименты проводились на наборах от 256 до более чем 160 000 изображений. Исследователи поочерёдно проверяли, что произойдёт при удалении:

• одной отдельной фотографии или иллюстрации;
• всех работ одного художника;
• всех фотографий одного человека.

На больших объёмах данных удаление таких источников часто не вызывало заметных изменений в результатах генерации. Именно постепенное уменьшение измеримого влияния отдельного источника авторы и называют «затуханием атрибуции».

Что это означает для споров об авторском праве

Вывод может осложнить утверждения о том, что конкретный результат системы, связанной, например, с Midjourney, OpenAI или Microsoft, был причинно обусловлен определённым изображением истца или всем корпусом работ конкретного автора. Если точное удаление этих материалов не меняет соответствующий результат, такой контрфактический тест даёт мало оснований приписывать ему происхождение от данного источника.

Но эксперимент не отвечает на ряд самостоятельных юридических вопросов. В частности, он не устанавливает:

• законно ли компания собрала и скопировала произведения для обучающего набора;
• является ли само обучение нарушением авторского права или подпадает под доктрину добросовестного использования;
• насколько результат похож на охраняемое произведение;
• была ли модель намеренно настроена или пользовательский запрос специально сформулирован для имитации определённого художника.

Иными словами, исследование посвящено причинной связи между конкретными обучающими материалами и отдельными результатами генерации, а не выносит правовую оценку действиям компаний или пользователей.

Почему это не «индульгенция» для генеративного ИИ

«Затухание атрибуции» не означает, что диффузионные модели неспособны запоминать обучающие данные. В определённых условиях они могут воспроизводить отдельные примеры или близкие к ним копии. Результат MIT показывает лишь то, что при увеличении набора данных влияние одного источника на конкретный результат часто становится неизмеримым — а не то, что копирование никогда не происходит.

Кроме того, работа изучала именно диффузионные генераторы изображений. Её выводы нельзя автоматически распространять на языковые модели и другие типы генеративных систем.

Поэтому в юридических спорах, вероятно, потребуется учитывать не только возможность сопоставить одну картинку с одним результатом. Значение могут иметь история формирования обучающего набора, документы о получении данных, прямые признаки сходства, поведение модели при целевых запросах, сведения о происхождении изображений и заключения экспертов. Это следует из продемонстрированной в исследовании сложности установить причинный вклад отдельного источника в результат модели, обученной на масштабном наборе данных.

Как проходил эксперимент

Вместо математической оценки влияния каждой картинки исследователи создали специальную архитектуру — «диффузионный ансамбль». Она состоит из множества небольших диффузионных компонентов, каждый из которых обучался на отдельном фрагменте данных.

Чтобы проверить, что произошло бы без конкретного изображения, учёные отключали все компоненты, которые видели это изображение во время обучения. Такой подход позволил получить точную контрфактическую модель без повторного обучения и без приблизительных расчётов.

Затем результаты сравнили с 24 обычными диффузионными моделями, обученными на тех же данных. По стандартным показателям качество их работы было сопоставимым.

Эксперименты проводились на наборах от 256 до более чем 160 000 изображений. Исследователи поочерёдно проверяли, что произойдёт при удалении:

• одной отдельной фотографии или иллюстрации;
• всех работ одного художника;
• всех фотографий одного человека.

На больших объёмах данных удаление таких источников часто не вызывало заметных изменений в результатах генерации. Именно постепенное уменьшение измеримого влияния отдельного источника авторы и называют «затуханием атрибуции».

Что это означает для споров об авторском праве

Вывод может осложнить утверждения о том, что конкретный результат системы, связанной, например, с Midjourney, OpenAI или Microsoft, был причинно обусловлен определённым изображением истца или всем корпусом работ конкретного автора. Если точное удаление этих материалов не меняет соответствующий результат, такой контрфактический тест даёт мало оснований приписывать ему происхождение от данного источника.

Но эксперимент не отвечает на ряд самостоятельных юридических вопросов. В частности, он не устанавливает:

• законно ли компания собрала и скопировала произведения для обучающего набора;
• является ли само обучение нарушением авторского права или подпадает под доктрину добросовестного использования;
• насколько результат похож на охраняемое произведение;
• была ли модель намеренно настроена или пользовательский запрос специально сформулирован для имитации определённого художника.

Иными словами, исследование посвящено причинной связи между конкретными обучающими материалами и отдельными результатами генерации, а не выносит правовую оценку действиям компаний или пользователей.

Почему это не «индульгенция» для генеративного ИИ

«Затухание атрибуции» не означает, что диффузионные модели неспособны запоминать обучающие данные. В определённых условиях они могут воспроизводить отдельные примеры или близкие к ним копии. Результат MIT показывает лишь то, что при увеличении набора данных влияние одного источника на конкретный результат часто становится неизмеримым — а не то, что копирование никогда не происходит.

Кроме того, работа изучала именно диффузионные генераторы изображений. Её выводы нельзя автоматически распространять на языковые модели и другие типы генеративных систем.

Поэтому в юридических спорах, вероятно, потребуется учитывать не только возможность сопоставить одну картинку с одним результатом. Значение могут иметь история формирования обучающего набора, документы о получении данных, прямые признаки сходства, поведение модели при целевых запросах, сведения о происхождении изображений и заключения экспертов. Это следует из продемонстрированной в исследовании сложности установить причинный вклад отдельного источника в результат модели, обученной на масштабном наборе данных.