Kun tekoäly oppii yhä suuremmasta kuvamäärästä, alkuperä voi kadota jäljiltä

Suurinta mitattua eroa alkuperäisen tuloksen ja vastineiden välillä kutsuttiin nimellä counterfactual radius, vastakysymyksen säde. Se toimi mittarina sille, kuinka paljon yhden poistetun harjoitusyksikön vaikutus saattoi muuttaa lopputulosta.

Mitä attribution decay tarkoittaa käytännössä?

Vastakysymyksen säde pieneni harjoitusaineistojen kasvaessa. Käytännössä yhden kuvan poistaminen tuotti yhä useammin kuvan, jota oli tutkimuksen mittarilla vaikea erottaa alkuperäisestä.

Tulos on intuitiivisesti hieman yllättävä: harjoitusdatan lisääminen voi tehdä tuotetusta kuvasta vähemmän yhdistettävän mihinkään yksittäiseen esimerkkiin, vaikka kyseinen esimerkki olisi ollut mukana aineistossa. Malli saattaa oppia laajoja ja päällekkäisiä visuaalisia piirteitä lukuisista lähteistä sen sijaan, että tietty lopputulos perustuisi yhteen tunnistettavaan kuvaan.

Suurimmilla tarkastelluilla mittakaavoilla ilmiö ulottui yksittäisiä kuvia pidemmälle. Tutkimuksessa raportoitiin, että myös tietyn taiteilijan kaikkien kuvien tai tiettyä henkilöä esittävien valokuvien poistaminen saattoi jättää generoidun näytteen tutkimuksen vastakysymysasetelmassa käytännössä ennalleen.

Tutkijoiden mukaan kyse ei siksi välttämättä ole vain siitä, etteivät jäljitystyökalut olisi tarpeeksi tehokkaita. Yhden lähteen ja yhden lopputuloksen välinen kausaalinen yhteys voi itsessään hajautua niin laajalle, ettei sitä enää pystytä eristämään.

Mitä tämä voi merkitä tekijänoikeusriidoissa?

Attribution decay voi vaikeuttaa yhtä tiettyä tapaa perustella tekijänoikeusvaatimus: väitettä siitä, että kiistanalainen tekoälykuva johtui suoraan nimetyn taiteilijan teoksista tai niiden kopioista harjoitusdatassa. Jos taiteilijan koko tuotannon poistaminen ei muuta tiettyä lopputulosta olennaisesti, on vaikeampi osoittaa, että kyseinen aineisto oli juuri tämän kuvan syntymiselle yksilöllisesti välttämätön tutkimuksen käyttämällä kausaalitestillä.

Tämä voi vaikuttaa keskusteluun kaupallisista kuvanluontipalveluista ja väitteistä, joiden mukaan mallit kopioivat taiteilijoiden tyylejä. Suuri harjoitusaineisto voi heikentää yksinkertaista yhden lähteen selitystä, jossa tunnistettavan lopputuloksen ajatellaan olevan yhden teoksen tai taiteilijan suora seuraus. Tutkimuksen onkin arvioitu voivan mutkistaa generatiivisia kuvia koskevia immateriaalioikeusjuttuja.

Tutkimus ei kuitenkaan ratkaise sitä, onko yritys rikkonut tekijänoikeutta, eikä se muodosta itsessään oikeudellista puolustusta. Riidoissa voidaan tarkastella esimerkiksi sitä, kopioitiinko suojattuja teoksia koulutusvaiheessa, muistuttaako lopputulos olennaisesti tiettyä suojattua teosta, mitä järjestelmä pystyy tuottamaan tietyillä kehotteilla, millaista vahinkoa on syntynyt tai mitä sopimusehtoja sovelletaan.

Tekninen johtopäätös ”ei voida attribuoida yhdelle lähteelle” ei tarkoita oikeudellisesti samaa kuin ”ei ole kopioitu”.

Tutkimus ei osoita, ettei malli voisi muistaa teoksia

Koe mittasi mallin herkkyyttä harjoitusyksiköiden poistamiselle. Se ei testannut kaikkia tapoja, joilla malli voi säilyttää tai toistaa tietoa.

Malli voi esimerkiksi osoittaa poistotestissä vain vähäistä riippuvuutta yhdestä kuvasta ja silti tuottaa tietyn teoksen tai sen osia joillakin kehotteilla ja näytteenottoasetuksilla. Kuva voi myös muistuttaa suojattua teosta, vaikka yksittäistä harjoituskuvaa ei pystyttäisi osoittamaan kyseisen lopputuloksen kausaalisesti välttämättömäksi.

Seuraavat väitteet on syytä pitää erillään:

• Kuva vaikutti tähän lopputulokseen: poistotesti löytää mitattavan muutoksen, kun kuvan vaikutus poistetaan.
• Malli näki tai säilytti kuvan: malli altistui kuvalle tai on voinut painaa mieleensä sen piirteitä.
• Lopputulos kopioi suojattua teosta: oikeudellinen ja tekninen johtopäätös, joka vaatii lisänäyttöä.

Attribution decay koskee suoraan ensimmäistä kysymystä. Se ei ratkaise toista tai kolmatta.

Tulos ei vielä koske suuria kielimalleja

Tutkimus käsittelee kuvia ja niihin liittyvää audiovisuaalista sisältöä tuottavia diffusion-malleja. Sen ensemble-rakennetta ja havaittua skaalautumisilmiötä ei voi automaattisesti yleistää transformer-pohjaisiin suuriin kielimalleihin eli LLM-malleihin.

Kielimalleilla on erilainen arkkitehtuuri, koulutusmenetelmät, token-esitykset ja tapa tuottaa vastauksia. Tutkimus voi tarjota suunnan tulevalle lähdeattribuution tutkimukselle, mutta se ei osoita, että sama attribution decay -ilmiö esiintyisi kielimalleissa.

Mitä tutkijoiden ja tuomioistuinten on edelleen selvitettävä?

Jos kysymys on siitä, kopioiko tekoälyjärjestelmä teoksen, attribution decay on vain yksi osa kokonaisuutta. Arvioinnissa voidaan edelleen tarvita esimerkiksi:

• testejä, joilla selvitetään, pystyykö järjestelmä tuottamaan tietyn teoksen hallituilla kehotteilla;
• tuotoksen ja väitetysti kopioidun teoksen visuaalista vertailua;
• tietoja harjoitusdatan alkuperästä, saatavuudesta ja käytöstä;
• mallien auditointituloksia ja järjestelmädokumentaatiota;
• arviota siitä, heijastaako lopputulos yleistä tyyliä vai yksilöitävissä olevaa suojattua ilmaisua; sekä
• kyseiseen riitaan sovellettavia oikeudellisia perusteita.

Tutkimuksen tärkein opetus onkin kapeampi ja hyödyllisempi kuin väite, että tekoäly ”unohtaa” lähteensä. Kun diffusion-mallien harjoitusaineistot kasvavat, yksittäisten kuvien kausaalinen osuus tiettyyn lopputulokseen voi hajautua liian pieneksi havaittavaksi. Se tekee lähteen jäljittämisestä vaikeampaa, mutta ei tee muistamisen, toisintamisen tai tekijänoikeusarvioinnin osoittamista mahdottomaksi.