Studie MIT odhalila „rozpad přiřazení“: u velkých AI modelů může zmizet stopa k jednotlivým obrázkům

Výzkumníci Zheng Dai a David Gifford z laboratoře MIT CSAIL popsali u difuzních generátorů obrázků fenomén, který nazvali „attribution decay“, česky zhruba „rozpad přiřazení“. Když je model trénován na stále větším množství dat, vliv jediného tréninkového obrázku na konkrétní výstup může být tak malý, že jej už nelze spolehlivě odhalit — a při přesném testu odstranění může zcela zmizet.

To komplikuje snahu spojit vygenerovaný obrázek s konkrétním umělcem, fotografií nebo jiným zdrojovým dílem. Samotná studie však neříká, že modely nikdy nekopírují, ani že trénování na autorsky chráněném materiálu je automaticky zákonné.

Jak výzkumníci postupovali

• Místo matematického odhadu vlivu jednotlivých obrázků vytvořili takzvaný difuzní soubor: mnoho menších difuzních komponent, z nichž každá byla natrénována na jiné části dat.
• Pokud chtěli zjistit, jaký rozdíl způsobí určitý zdrojový obrázek, vypnuli všechny komponenty, které jej během trénování viděly. Mohli tak vytvořit přesný kontrafaktuální model bez daného obrázku, aniž by museli celý systém znovu trénovat nebo vliv pouze přibližovat.
• Tento přístup porovnali s 24 běžnými difuzními modely trénovanými na stejných datech. Modely přitom dosahovaly podle standardních měřítek přibližně srovnatelné kvality výstupů.
• Testovali datové soubory od 256 až po více než 160 000 obrázků. Postupně z nich odstraňovali jeden konkrétní obrázek, všechna díla jediného umělce nebo všechny fotografie jedné osoby.

S rostoucím rozsahem dat odstranění některého z těchto zdrojů často nezpůsobilo ve výsledném obrázku žádnou znatelnou změnu. Právě tento slábnoucí, měřitelný vliv jednotlivých zdrojů vědci označují jako „rozpad přiřazení“.

Co to může znamenat pro spory o autorská práva

Výsledek může zkomplikovat tvrzení, že konkrétní výstup systému spojovaného například s Midjourney, OpenAI nebo Microsoftem vznikl právě kvůli určitému obrázku žalobce nebo celému jeho uměleckému dílu. Pokud přesné odstranění daného materiálu ponechá relevantní výstup beze změny, tento konkrétní kontrafaktuální test poskytuje jen malou oporu pro tvrzení, že výstup byl způsoben právě jím.

Studie ale neřeší několik samostatných právních otázek:

• zda firma při sestavování tréninkových dat díla zkopírovala;
• zda je samotné trénování na těchto datech porušením autorských práv, nebo může spadat pod výjimku typu fair use;
• zda je výstup podstatně podobný chráněnému dílu;
• zda byl model záměrně vyzván nebo nastaven tak, aby napodoboval konkrétního umělce.

Jde tedy o výzkum příčinné souvislosti mezi jednotlivými tréninkovými zdroji a konkrétními výstupy, nikoli o právní rozhodnutí.

Proč studie nepředstavuje „volnou vstupenku“

Zjištění neznamená, že difuzní modely nedokážou memorovat data. V některých situacích mohou tréninkové příklady stále zapamatovat nebo reprodukovat. „Rozpad přiřazení“ pouze ukazuje, že při zvětšování datových souborů se vliv jednotlivého zdroje často stává neměřitelným — nikoli že ke kopírování nikdy nedochází.

Výsledky se navíc týkají difuzních generátorů obrázků a nelze je automaticky přenést na jazykové modely ani na jiné generativní architektury.

Soudy proto mohou při posuzování kopírování a odpovědnosti za porušení duševního vlastnictví potřebovat i jiné důkazy než jednoduché přiřazení jednoho obrázku k jednomu výstupu. Patřit mezi ně mohou záznamy o získávání tréninkových dat, přímé důkazy podobnosti, chování modelu při cílených výzvách, informace o původu dat a znalecké posudky. To je závěr vyplývající z toho, jak obtížné je při velkém měřítku určit příčinu konkrétního výstupu.