Im większy zbiór danych, tym trudniej prześledzić źródło obrazu AI

Największą zmierzoną różnicę między oryginalnym wynikiem a wynikami kontrfaktycznymi nazwano counterfactual radius, czyli promieniem kontrfaktycznym. Wskaźnik ten miał pokazywać, jak bardzo usunięcie jednego elementu mogło zmienić rezultat.

Na czym polega „zanik atrybucji”

Wraz ze wzrostem zbiorów treningowych promień kontrfaktyczny malał. W praktyce oznaczało to, że usunięcie pojedynczego obrazu coraz częściej prowadziło do wyniku trudnego do odróżnienia od oryginału w ramach pomiaru zastosowanego w badaniu.

Wniosek jest nieintuicyjny: dodawanie danych treningowych może sprawić, że wygenerowany obraz będzie trudniejszy do przypisania jednemu źródłu, nawet jeśli to źródło znajdowało się w zbiorze treningowym. Model może uczyć się szerokich, nakładających się wzorców z wielu materiałów zamiast opierać konkretny wynik na jednym możliwym do wskazania obrazie.

Przy odpowiednio dużej skali efekt wykraczał poza pojedyncze obrazy. Badanie wskazywało, że usunięcie wszystkich prac danego artysty albo wszystkich fotografii przedstawiających konkretną osobę również mogło nie zmienić wygenerowanego przykładu w praktycznie zauważalny sposób w testowanym scenariuszu kontrfaktycznym.

Dlatego badacze mówią o „zaniku”, a nie po prostu o niedoskonałości narzędzi śledzących. Problem może polegać nie na tym, że śledczy nie dysponują wystarczająco skuteczną metodą, lecz na tym, że sam związek przyczynowy między jednym źródłem a jednym wynikiem staje się zbyt rozproszony, by dało się go wyodrębnić.

Co to może oznaczać dla sporów o prawa autorskie

Zjawisko może utrudnić udowodnienie jednej z konkretnych teorii naruszenia praw autorskich: że sporny obraz został bezpośrednio wywołany pracami wskazanego artysty albo ich kopiami znajdującymi się w danych treningowych. Jeśli usunięcie całego dorobku artysty nie zmienia istotnie wyniku, trudniej twierdzić, że ten dorobek był indywidualnie niezbędny do powstania danego obrazu w ramach zastosowanego testu przyczynowego.

Ma to znaczenie dla sporów dotyczących komercyjnych generatorów obrazów i zarzutów, że modele kopiują style artystów. Trenowanie na dużą skalę osłabia prostą narrację, w której rozpoznawalny rezultat jest bezpośrednim efektem jednej konkretnej pracy lub twórcy. Badanie może więc komplikować sprawy dotyczące własności intelektualnej w generatywnych systemach obrazowych.

Nie rozstrzyga jednak, czy konkretna firma naruszyła prawa autorskie, i samo w sobie nie tworzy prawnej linii obrony. Spory mogą dotyczyć między innymi tego, czy chronione utwory kopiowano podczas treningu, czy wynik jest istotnie podobny do chronionego dzieła, co system potrafi odtworzyć po określonych poleceniach, a także jakie powstały szkody lub zobowiązania umowne. Techniczne „brak przypisania” nie jest równoznaczne z prawnym „brakiem kopiowania”.

Dlaczego badanie nie dowodzi braku zapamiętywania

Eksperyment sprawdzał wrażliwość modelu na usunięcie elementów treningu. Nie badał wszystkich sposobów, na jakie model może przechowywać lub odtwarzać informacje.

Model może wykazywać niewielką zależność od pojedynczego obrazu w teście usuwania, a mimo to odtworzyć konkretne dzieło po określonych poleceniach lub przy określonych warunkach losowania. Wygenerowany obraz może też przypominać chronione dzieło, nawet jeśli nie da się wykazać, że jeden konkretny obraz treningowy był przyczynowo konieczny do jego powstania.

To trzy różne stwierdzenia:

• Ten obraz wpłynął na konkretny wynik: test usunięcia wykazuje mierzalną zmianę po usunięciu jego wpływu.
• Model widział lub zapamiętał ten obraz: model miał z nim kontakt podczas treningu albo mógł zachować pewne jego elementy.
• Wynik kopiuje chronione dzieło: wniosek techniczny i prawny, który wymaga dodatkowych dowodów.

Badanie bezpośrednio dotyczy pierwszego pytania. Nie rozstrzyga drugiego ani trzeciego.

Na razie nie można przenosić tych wniosków na duże modele językowe

Badanie dotyczy modeli dyfuzyjnych generujących obrazy i powiązane materiały audiowizualne. Ich architektura zespołowa oraz zaobserwowany sposób skalowania nie powinny być automatycznie odnoszone do dużych modeli językowych opartych na transformatorach.

Modele językowe mają inną architekturę, procedury treningowe, reprezentację tokenów i sposób generowania wyników. Badanie może wskazywać kierunek dla przyszłych analiz atrybucji, ale nie dowodzi, że identyczna forma zaniku atrybucji występuje również w LLM-ach.

Jakich dowodów nadal potrzebowaliby śledczy i sądy

Jeśli pytanie brzmi, czy system AI skopiował konkretne dzieło, zanik atrybucji jest tylko jednym z elementów układanki. Sądy i eksperci techniczni nadal mogą analizować:

• czy system potrafi odtworzyć konkretne dzieło po kontrolowanych poleceniach;
• podobieństwo wizualne wyniku do rzekomo skopiowanego utworu;
• pochodzenie danych, dostęp do nich i dokumentację dotyczącą zbioru treningowego;
• wyniki audytów modelu oraz dokumentację systemu;
• to, czy wynik odzwierciedla ogólny styl, czy rozpoznawalny, chroniony sposób wyrażenia; oraz
• przepisy i standardy prawne właściwe dla danego sporu.

Najważniejszy wniosek z badania jest węższy — i bardziej użyteczny — niż twierdzenie, że AI „zapomina”, skąd się nauczyła. Wraz ze skalowaniem zbiorów dyfuzyjnych wkład przyczynowy pojedynczych przykładów treningowych może rozproszyć się do tego stopnia, że trudno go wykryć w konkretnym wyniku. Utrudnia to przypisywanie źródeł, ale nie sprawia, że zapamiętywanie, odtwarzanie ani analiza naruszenia praw autorskich stają się niemożliwe.