Studie MIT: S rostoucími modely AI se hůře dohledává původ generovaných obrázků

Neznamená to, že daný obrázek neměl při celkovém trénování žádnou úlohu. Znamená to, že jeho samostatný příčinný příspěvek ke konkrétnímu výstupu může být podle použitého testu příliš malý na to, aby byl zjistitelný.

Jak fungoval „difuzní soubor“

Přímé ověření podobné otázky je obtížné. Běžný postup by spočíval v opětovném natrénování modelu po odstranění zdrojového obrázku a následném porovnání nového výstupu s původním. Opakovat tento proces pro jednotlivé obrázky, umělce nebo osoby by bylo nákladné. Přibližné metody navíc nemusí odstranit všechny následné vlivy daných dat.

Dai a Gifford proto navrhli difuzní soubor (diffusion ensemble): několik menších difuzních komponent trénovaných na různých, částečně se překrývajících podmnožinách dat. K ověření vlivu určitého zdroje mohli vypnout komponenty, které se se zdrojem setkaly, a vytvořit tak kontrafaktuální výstup bez nutnosti znovu trénovat celý systém.

Výzkumníci tuto metodu porovnali s 24 klasickými difuzními modely trénovanými na stejných datech. Podle standardních měřítek poskytovaly obě varianty obecně srovnatelnou kvalitu výstupů.

V rámci navržené architektury tak vznikl přesný test odstranění. Pokud výstup zůstal stejný poté, co byly vypnuty všechny komponenty, které daný zdroj viděly, experiment neposkytl měřitelný důkaz, že právě tento zdroj výstup způsobil.

Co to může znamenat pro spory o autorské právo

Úpadek atribuce může ztížit konkrétní typ nároku: tvrzení, že určitý vygenerovaný obrázek vznikl díky dílu jednoho žalobce, případně díky celému jeho uměleckému korpusu. Pokud přesný kontrafaktuální test ukáže, že odstranění tohoto materiálu výstup nezmění, nabízí jen malou oporu pro přiřazení daného výstupu právě tomuto zdroji.

Taková otázka může vyvstat ve sporech kolem služeb a vývojářů generátorů obrázků, například společností Midjourney, OpenAI nebo Microsoft. Samotná studie ale nerozhoduje o právní odpovědnosti žádné z nich. Přináší důkazy o tom, jak obtížné je ustavit příčinnou vazbu mezi jednotlivými tréninkovými daty a jednotlivými výstupy.

Zůstává otevřeno několik samostatných otázek:

• Jak byla tréninková data získána? Studie neurčuje, zda bylo shromažďování nebo použití konkrétního chráněného díla při trénování legální.
• Je výstup podstatně podobný chráněnému dílu? Vizuální podobnost může být důležitá i tehdy, když je obtížné prokázat příčinnou vazbu k jednomu souboru v trénovacích datech.
• Zapamatoval si systém příklad a znovu jej reprodukoval? Model může v některých situacích reprodukovat tréninkový materiál. To je něco jiného než důkaz, že každý výstup lze připsat jedinému zdroji.
• Byl systém nastaven tak, aby napodoboval konkrétního umělce? Důkazy mohou přinést cílené prompty, dolaďování modelu nebo jiné projevy jeho chování, které test odstranění jednoho obrázku nezachytí.

V praxi proto mohou soudy a vyšetřovatelé potřebovat širší soubor podkladů: záznamy o získání dat, informace o původu materiálu, přímou analýzu podobnosti, testování chování modelu při cílených promptech a odborné posudky. Jde o praktický závěr vyplývající ze zjištění, že při velkém měřítku je přiřazení jednoho obrázku k jednomu výstupu nespolehlivé; výzkum tím nevytváří nové právní pravidlo.

Pro vývojáře AI to není volná vstupenka

Úpadek atribuce nelze chápat jako důkaz, že difuzní modely nikdy nekopírují. Studie ukazuje, že měřitelný vliv jednotlivého zdroje může s růstem trénovacích datasetů klesnout až k zanedbatelné úrovni. V některých podmínkách však modely stále mohou tréninkové příklady memorovat nebo reprodukovat.

Omezený je také rozsah výzkumu. Autoři zkoumali generátory obrázků založené na difuzi, takže výsledky nelze automaticky přenášet na jazykové modely ani na jiné generativní architektury.

Nejpřesnější interpretace je proto opatrná: rozsáhlé difuzní systémy mohou výrazně ztížit přiřazení konkrétního výstupu jednotlivému zdroji, i když jejich tréninková data určitý obrázek nebo díla daného umělce obsahují. To může oslabit jednu z cest, jak prokazovat odpovědnost za konkrétní výstup, ale neuzavírá širší otázky kolem trénovacích postupů, kopírování, napodobování a práv duševního vlastnictví.