Studie MIT odhalila „rozpad atribuce“ u generátorů obrázků

Největší rozdíl mezi původním výstupem a některou z těchto variant označili jako kontrafaktuální poloměr. Ten sloužil jako měřítko maximálního kauzálního vlivu jedné vynechané tréninkové jednotky.

Co „rozpad atribuce“ ukázal

S rostoucí velikostí datových sad kontrafaktuální poloměr klesal. Odstranění jediného obrázku proto stále častěji vedlo k výsledku, který byl od původního výstupu prakticky nerozeznatelný.

Při dostatečně velkém měřítku se tento efekt nemusel týkat jen jedné fotografie. Výzkumníci uvádějí, že po odstranění všech obrázků konkrétního umělce, nebo dokonce všech fotografií zachycujících určitou osobu, se vygenerovaný obrázek často výrazně nezměnil.

V přesném smyslu použitém ve studii to znamená, že dané jednotce nelze připsat kauzální odpovědnost za konkrétní výstup, pokud její odstranění výsledek nezmění. Neznamená to ale, že žádný z těchto obrázků neměl vliv na učení modelu jako celek.

Co to může znamenat pro autorská práva

Výsledek může zkomplikovat některé argumenty v žalobách proti provozovatelům generátorů obrázků, jako jsou Midjourney, OpenAI nebo Microsoft. Pokud by žaloba stála na tvrzení, že konkrétní výstup způsobil určitý umělec nebo jeho díla, může být obtížné prokázat přímý kauzální příspěvek, jestliže odstranění celého umělcova díla výstup prakticky nezmění.

Studie ale sama o sobě žádný právní spor nerozhoduje a nestanovuje právní pravidlo. Autorskoprávní případy mohou řešit například neoprávněné kopírování během trénování, podstatnou podobnost konkrétního výstupu s chráněným dílem, přístup k dílu, škodu na trhu, smluvní podmínky nebo další otázky. Ty nelze zúžit na test, zda byl jeden konkrétní obrázek pro vznik jediného výstupu nezbytný.

Důležitá omezení studie

• Nejde o důkaz, že model nic nezapamatoval. Výstup může být podle tohoto testu nepřiřaditelný jedinému tréninkovému snímku, a přesto může model určité materiály znát, za specifického zadání je reprodukovat nebo vytvořit obrázek podstatně podobný chráněnému dílu. Studie testuje citlivost výstupu na odstranění tréninkových jednotek, nikoli všechny formy memorování či porušení autorských práv.
• Výsledek se netýká automaticky velkých jazykových modelů. Výzkum se zaměřil na difuzní modely generující audiovizuální obsah. Z toho nelze bez dalšího vyvodit, že stejná souborová a ablační metoda nebo stejné škálovací chování platí i pro velké jazykové modely založené na transformerech.
• Nejde o náhradu dalších důkazů. Při technickém i právním posuzování by stále mohly být důležité testy reprodukce pomocí zadání, analýza podobnosti a původu obsahu, záznamy o tréninkových datech a systému, audity modelu i příslušná právní analýza.

Hlavní závěr je tedy užší, než by mohl naznačovat titulek o „zmizení autora“: u rozsáhlých difuzních modelů může selhat jednoduchý příběh, podle něhož lze jeden výstup přímo připsat jednomu zdrojovému obrázku nebo celému dílu jediného umělce. To ale neznamená, že kopírování nelze prokázat jinými metodami.