Badanie MIT pokazuje, dlaczego obrazów AI nie zawsze da się przypisać do konkretnego autora

Badacze z MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) opisali zjawisko, które nazwali „zanikiem atrybucji” (attribution decay). Wynika z niego, że gdy generator obrazów dyfuzyjnych uczy się na coraz większym zbiorze danych, przyczynowy wpływ pojedynczego obrazu na konkretny wynik może spaść poniżej poziomu wykrywalności — a w dokładnym teście usunięcia może całkowicie zniknąć.

Nie oznacza to, że modele nie potrafią zapamiętywać obrazów ani że korzystanie z dzieł chronionych prawem autorskim jest automatycznie dozwolone. Oznacza natomiast, że coraz trudniej udowodnić, iż konkretny wygenerowany obraz powstał właśnie pod wpływem jednego wskazanego materiału treningowego.

Jak przeprowadzono badanie?

Zheng Dai i David Gifford nie próbowali jedynie matematycznie oszacować znaczenia poszczególnych obrazów. Zbudowali „diffusion ensemble” — zespół wielu mniejszych komponentów dyfuzyjnych, z których każdy był trenowany na innej części danych.

Dzięki temu mogli stworzyć dokładny model kontrfaktyczny: aby sprawdzić, co stałoby się bez danego obrazu, wyłączali wszystkie komponenty, które miały z nim kontakt. Nie musieli więc ponownie trenować całego systemu ani opierać się na przybliżeniach.

Następnie porównali tę metodę z 24 konwencjonalnymi modelami dyfuzyjnymi trenowanymi na tych samych danych. Modele miały zbliżoną jakość generowanych obrazów według standardowych miar. Eksperymenty przeprowadzono na zbiorach zawierających od 256 do ponad 160 tysięcy obrazów. Naukowcy sprawdzali wpływ:

• jednego konkretnego obrazu;
• wszystkich dzieł jednego artysty;
• wszystkich fotografii przedstawiających jedną osobę.

Wraz ze wzrostem skali danych usunięcie jednego z tych źródeł często nie powodowało zauważalnej zmiany wygenerowanego obrazu. To właśnie malejący, mierzalny wpływ każdego źródła określono mianem „zaniku atrybucji”.

Co to może oznaczać dla sporów o prawa autorskie?

Wyniki mogą skomplikować próby wykazania, że konkretny obraz wygenerowany przez system powiązany na przykład z Midjourney, OpenAI lub Microsoftem został wywołany przez — albo skopiowany z — określonego dzieła powoda lub całego dorobku artysty. Jeśli dokładne usunięcie tych materiałów nie zmienia danego wyniku, taki test kontrfaktyczny dostarcza niewielu podstaw do przypisania mu konkretnego źródła.

Badanie nie rozstrzyga jednak kluczowych kwestii prawnych. Nie odpowiada samo w sobie na pytania:

• czy firma kopiowała utwory podczas tworzenia zbioru treningowego;
• czy samo trenowanie modelu narusza prawa autorskie, czy może korzystać z wyjątku, takiego jak dozwolony użytek (fair use);
• czy wynik jest istotnie podobny do chronionego utworu;
• czy model został celowo nakłoniony lub skonfigurowany do naśladowania konkretnego artysty.

To dowód dotyczący możliwości przypisania konkretnego wyniku do konkretnego materiału, a nie orzeczenie prawne.

Dlaczego nie jest to „wolna karta” dla firm AI?

Modele dyfuzyjne nadal mogą zapamiętywać i odtwarzać przykłady ze zbioru treningowego w określonych warunkach. „Zanik atrybucji” oznacza, że wraz ze skalowaniem danych wpływ pojedynczego źródła często staje się niemierzalny — nie zaś to, że kopiowanie nigdy nie występuje.

Trzeba też zachować ostrożność przy uogólnianiu wyników. Badanie dotyczy generatorów obrazów opartych na dyfuzji, dlatego nie można automatycznie przenosić jego wniosków na modele językowe ani inne architektury generatywne.

W praktyce sądy mogą więc potrzebować dowodów wykraczających poza prosty schemat „jeden obraz treningowy — jeden wynik”. Znaczenie mogą mieć między innymi dokumentacja pozyskania danych, bezpośrednie podobieństwo obrazów, zachowanie modelu po użyciu celowanych promptów, informacje o pochodzeniu materiałów oraz opinie ekspertów. To wniosek wynikający z faktu, że badanie pokazało trudność przypisywania pojedynczych wyników konkretnym źródłom przy dużej skali danych.