MIT:n tutkimus: Tekoälykuvien alkuperää on yhä vaikeampi jäljittää mallien kasvaessa

MIT:n tietojenkäsittelytieteen ja tekoälyn tutkimuslaboratorion CSAIL:n tutkijat Zheng Dai ja David Gifford ovat tunnistaneet ilmiön, joka voimistuu diffuusiopohjaisten kuvangeneraattoreiden kasvaessa: tietyn harjoituskuvan ja tietyn tuotoksen välistä syy-yhteyttä voi olla yhä vaikeampi osoittaa. Tutkijat kutsuvat ilmiötä nimellä attribution decay, eli attribuution heikkeneminen.

Löydös on merkittävä tekoälytaiteen ja tekijänoikeuksien ympärillä käytävässä keskustelussa, mutta sen merkitys on rajattu. Tutkimus käsittelee sitä, voidaanko tietyn kuvan katsoa aiheuttaneen tietyn diffuusiomallin tuotoksen. Se ei ratkaise, saiko yritys kerätä tekijänoikeudella suojattuja teoksia, muistuttaako lopputulos olennaisesti suojattua teosta tai onko malli joskus oppinut ja toistanut aineistonsa sisältöä.

Mitä attribuution heikkeneminen tarkoittaa?

Perusajatus on yksinkertainen: mitä suuremmalla kuva-aineistolla diffuusiomalli koulutetaan, sitä pienemmäksi yhden harjoitusesimerkin mitattava vaikutus tiettyyn tuotokseen yleensä käy. Kun malli ja aineisto kasvavat riittävästi, yhden kuvan poistaminen voi jättää tuotoksen käytännössä ennalleen.

Tutkijat kokeilivat myös laajempia poistoja. He poistivat aineistosta kaikki yhden taiteilijan teokset sekä kaikki tiettyä henkilöä esittävät valokuvat. Tulosten perusteella nämäkään muutokset eivät suurissa malleissa välttämättä aiheuttaneet tuotoksiin mitattavaa muutosta. Kokeissa oli mukana 24 diffuusioensemblea, ja aineistojen koko vaihteli 256 kuvasta yli 160 000 kuvaan.

Tämä ei tarkoita, ettei kuvalla olisi ollut mitään roolia mallin kokonaiskoulutuksessa. Kyse on siitä, että yhden lähteen yksittäinen kausaalinen vaikutus tiettyyn tuotokseen voi olla tutkimuksen poistokokeessa liian pieni havaittavaksi.

Näin diffuusioensemble teki testin mahdolliseksi

Kysymystä on vaikea tutkia suoraan. Tavallinen menetelmä olisi kouluttaa malli uudelleen ilman tiettyä lähdekuvaa ja verrata uutta tuotosta alkuperäiseen. Jos sama pitäisi tehdä erikseen tuhansille kuville, taiteilijoille tai henkilöille, laskenta olisi kallista. Lisäksi likimääräiset menetelmät eivät välttämättä poista kaikkea datan myöhempää vaikutusta.

Dai ja Gifford rakensivat tätä varten diffuusioensemblen: useista pienemmistä diffuusiokomponenteista koostuvan kokonaisuuden. Komponentit koulutettiin osittain päällekkäisillä datajoukoilla. Kun tutkijat halusivat selvittää tietyn lähteen vaikutuksen, he kytkivät pois kaikki komponentit, jotka olivat nähneet kyseisen lähteen. Näin he saivat vastakysymyksenä tuotoksen tilanteessa, jossa lähde ei olisi ollut mukana, ilman koko järjestelmän uudelleenkoulutusta.

Tutkijat vertasivat menetelmää 24 tavanomaiseen diffuusiomalliin, jotka koulutettiin samoilla aineistoilla. He raportoivat, että tuotosten laatu oli tavanomaisilla mittareilla pääpiirteissään vertailukelpoinen.

Menetelmä mahdollisti heidän arkkitehtuurissaan tarkan poistokokeen: jos tuotos ei muuttunut sen jälkeen, kun kaikki lähteen nähneet komponentit oli kytketty pois, kokeessa ei saatu mitattavaa näyttöä siitä, että kyseinen lähde olisi aiheuttanut tuotoksen.

Mitä löydös merkitsee tekijänoikeusriidoissa?

Attribuution heikkeneminen voi vaikeuttaa tietynlaista väitettä: että tietty tekoälyn tuottama kuva on syntynyt juuri yhden kantajan kuvan tai kokonaisen taiteilijajoukon vaikutuksesta tai että se on kopioitu niistä. Jos aineiston poistaminen ei täsmällisessä vastakokeessa muuta tuotosta, koe antaa vain vähän tukea tuotoksen yhdistämiselle poistettuun lähteeseen.

Tällainen kysymys voi nousta esiin esimerkiksi Midjourneyn, OpenAI:n tai Microsoftin kaltaisiin yrityksiin liittyvissä kiistoissa. Tutkimus ei kuitenkaan ratkaise yhdenkään yrityksen oikeudellista vastuuta. Se antaa näyttöä ennen kaikkea siitä, kuinka vaikeaa yksittäisen harjoitusdatan ja yksittäisen tuotoksen välisen syy-yhteyden osoittaminen voi olla.

Avoimeksi jää useita erillisiä kysymyksiä:

• Miten harjoitusdata hankittiin? Tutkimus ei kerro, oliko tekijänoikeudella suojattujen teosten kerääminen tai käyttäminen koulutukseen laillista.
• Onko lopputulos olennaisesti samanlainen kuin suojattu teos? Visuaalinen samankaltaisuus voi olla merkityksellistä, vaikka yhteyttä yhteen harjoitustiedostoon olisi vaikea todistaa.
• Muistiko järjestelmä esimerkin tai toistiko se sen? Malli voi joissakin tilanteissa tuottaa harjoitusaineistoon perustuvia kopioita. Se on eri asia kuin osoittaa, että jokainen tuotos on jäljitettävissä yhteen lähteeseen.
• Oliko järjestelmä suunnattu jäljittelemään tiettyä taiteilijaa? Kohdennetut kehotteet, hienosäätö tai muu mallin käyttäytyminen voivat tarjota näyttöä, jota yhden kuvan poistokoe ei tavoita.

Käytännössä tuomioistuimet ja selvitystyötä tekevät tahot saattavat tarvita laajemman näyttökokonaisuuden. Siihen voivat kuulua koulutusdatan hankintaa koskevat tiedot, alkuperä- ja provenienssitiedot, suora samankaltaisuusanalyysi, kohdennetuilla kehotteilla tehdyt testit, mallin käyttäytymistä koskeva näyttö sekä asiantuntija-arviot. Tämä päätelmä seuraa tutkimuksen havainnosta, jonka mukaan yhden kuvan ja yhden tuotoksen välinen attribuutio muuttuu suurissa malleissa epäluotettavaksi – tutkimus ei itsessään luo uutta oikeussääntöä.

Miksi tutkimus ei anna tekoälykehittäjille vapaalippua?

Attribuution heikkenemistä ei pidä tulkita todisteeksi siitä, etteivät diffuusiomallit koskaan kopioi. Tutkimuksen mukaan yhden lähteen mitattava vaikutus voi muuttua olemattoman pieneksi aineistojen kasvaessa. Se ei tarkoita, etteivätkö mallit voisi joissakin tilanteissa muistaa tai toistaa harjoitusesimerkkejä.

Tutkimuksen soveltamisala on myös rajallinen. Työ tarkasteli diffuusiopohjaisia kuvageneraattoreita, joten tuloksia ei voi automaattisesti ulottaa kielimalleihin tai muihin generatiivisiin arkkitehtuureihin.

Varovaisin ja täsmällisin tulkinta on tämä: suuret diffuusiomallit voivat tehdä yksittäisen lähteen jäljittämisestä vaikeampaa, vaikka niiden koulutusdataan olisi kuulunut tietyn taiteilijan teoksia tai tietty kuva. Tämä voi heikentää yhtä tapaa osoittaa vastuu tietystä tuotoksesta, mutta laajemmat kysymykset koulutuskäytännöistä, kopioinnista, jäljittelystä ja immateriaalioikeuksista jäävät edelleen ratkaisematta.