Mitä MIT:n tutkimus paljasti tekoälykuvien alkuperän jäljittämisestä?

MIT:n tietojenkäsittelytieteen ja tekoälyn laboratoriossa CSAILissa tehty tutkimus nostaa esiin ilmiön, jota tutkijat kutsuvat nimellä attribution decay eli vaikutuksen tai alkuperän jäljittymisen hiipuminen. Kun diffuusiopohjaista kuvageneraattoria koulutetaan yhä suuremmalla kuvamäärällä, yhden harjoituskuvan kausaalinen vaikutus tiettyyn tuotokseen voi kutistua niin pieneksi, ettei sitä enää pystytä havaitsemaan.

Tämä voi tehdä tekoälyllä tuotetun kuvan yhdistämisestä tiettyyn taiteilijaan, valokuvaan tai lähdekuvaan huomattavasti vaikeampaa. Tutkimus ei kuitenkaan ratkaise sitä, onko tekijänoikeudella suojattujen teosten käyttäminen mallin koulutuksessa laillista – eikä se osoita, etteivät tekoälymallit voisi kopioida harjoitusaineistoa.

Näin tutkijat testasivat yksittäisen kuvan vaikutusta

Zheng Dai ja David Gifford eivät pyrkineet ainoastaan arvioimaan kuvan vaikutusta matemaattisesti. He rakensivat niin kutsutun diffuusioensemblen: joukon pienempiä diffuusiokomponentteja, jotka oli koulutettu eri dataosioilla.

Kun tutkijat halusivat selvittää, mitä tapahtuisi ilman tiettyä lähdekuvaa, he kytkivät pois kaikki komponentit, jotka olivat nähneet kyseisen kuvan. Näin vastakkainen tilanne voitiin muodostaa täsmällisesti ilman uuden mallin uudelleenkoulutusta tai likimääräistä arviota.

Menetelmää verrattiin 24 tavanomaiseen diffuusiomalliin, jotka koulutettiin samalla aineistolla. Mallien tuottamien kuvien laatu oli tavanomaisilla mittareilla laajasti vertailukelpoinen.

Kokeissa poistettiin aineistoista:

• yksi yksittäinen kuva;
• kaikki yhden taiteilijan työt; sekä
• kaikki tiettyä henkilöä esittävät valokuvat.

Aineistojen koko vaihteli 256 kuvasta yli 160 000 kuvaan. Kun aineisto kasvoi, yhden kuvan – ja joissakin tapauksissa jopa yhden taiteilijan koko teosjoukon tai yhtä henkilöä esittävien kuvien – poistaminen ei usein muuttanut tuotettua kuvaa havaittavasti. Tätä yksittäisen lähteen mitattavan vaikutuksen heikkenemistä tutkijat kutsuvat attribution decayksi.

Miksi havainto on merkittävä tekijänoikeusriidoissa?

Tulos voi vaikeuttaa väitteitä, joiden mukaan esimerkiksi Midjourneyhin, OpenAI:hin tai Microsoftiin yhdistetyn järjestelmän tietty tuotos olisi syntynyt juuri kantajan yksittäisen kuvan tai koko taiteellisen tuotannon vaikutuksesta. Jos aineiston täsmällinen poistaminen ei muuta kyseistä tuotosta, tämä vastakkainen testi antaa vain vähän tukea sille, että tuotos voitaisiin jäljittää juuri kyseiseen lähteeseen.

Tutkimus ei silti anna vastausta useisiin erillisiin oikeudellisiin kysymyksiin. Se ei ratkaise esimerkiksi sitä:

• kopioiko yritys teoksia harjoitusaineistoa kootessaan;
• loukkaako mallin kouluttaminen tekijänoikeutta vai kuuluuko se sallitun käytön piiriin;
• onko tuotettu kuva olennaisen samankaltainen suojatun teoksen kanssa; tai
• onko malli tarkoituksellisesti ohjattu jäljittelemään tiettyä taiteilijaa.

Kyse on siis näytöstä, joka koskee tietyn tuotoksen kausaalista jäljitettävyyttä – ei tuomioistuimen ratkaisusta eikä yleisestä arviosta tekoälyn käytön laillisuudesta.

Miksi tutkimus ei tarkoita, että tekoäly olisi saanut ”vapaan passin”?

Ensinnäkin diffuusiomallit voivat edelleen opetella ulkoa ja toisintaa harjoitusesimerkkejä joissakin tilanteissa. Attribution decay tarkoittaa, että yksittäisen lähteen vaikutus muuttuu aineiston kasvaessa usein mittaamattomaksi, ei sitä, ettei kopiointia koskaan tapahtuisi.

Toiseksi tutkimus käsitteli diffuusiopohjaisia kuvageneraattoreita. Tulosta ei voi suoraan yleistää kielimalleihin tai muihin generatiivisiin arkkitehtuureihin.

Siksi tuomioistuimet voivat joutua tarkastelemaan muitakin todisteita kuin yksittäisen kuvan ja yksittäisen tuotoksen välistä kausaalista yhteyttä. Huomioon voivat tulla esimerkiksi harjoitusdatan hankintaa koskevat tiedot, suora samankaltaisuus, mallin toiminta kohdennetuilla kehotteilla, teoksen alkuperää koskevat tiedot sekä asiantuntijalausunnot. Tämä päätelmä perustuu tutkimuksen osoittamaan vaikeuteen yhdistää yksittäisiä tuotoksia tiettyihin lähteisiin suurissa aineistoissa.