Ro Khanna haluaa tietää, voivatko tekoäly-yhtiöt suojata mallinsa vakoilulta

Ro Khannan kysymys koskee sitä, pystyvätkö suuret tekoäly-yhtiöt suojaamaan malliensa tärkeimmät tekniset osat ulkopuolisilta. Hän on pyytänyt OpenAI:lta, Anthropicilta, Googlelta, Metalta ja xAI:lta tietoja tunnetuista yrityksistä hankkia niiden mallipainot laittomasti sekä kuvauksia yhtiöiden kyberturvatoimista.3 Näin mallien suojaamisesta tulee myös kansallisen turvallisuuden kysymys: kyse ei ole vain kilpailijoiden mahdollisuudesta jäljitellä mallin vastauksia.

Mallipainojen varastaminen ei ole sama asia kuin tislaaminen

Mallipainot ovat mallin opittuja parametreja, jotka määrittävät, miten se toimii. Jos joku varastaa ne, hän saa haltuunsa itse mallin keskeisen teknisen perustan. Se voi mahdollistaa mallin käyttämisen alkuperäisen kehittäjän palvelun ulkopuolella, jossa kehittäjän asettamat käyttörajoitukset eivät välttämättä päde samalla tavoin.

Tislaamisessa mallille esitetään kysymyksiä ja sen vastauksia käytetään toisen mallin kouluttamiseen. Näin voidaan jäljitellä osaa alkuperäisen mallin kyvyistä, mutta menetelmä ei itsessään anna käyttöön sen alkuperäisiä painoja. OpenAI ja Anthropic ovat kertoneet kiinalaisiin yhtiöihin liittyvästä tislaamisesta, mutta julkisissa tiedoissa tunnettuja mallipainojen varastamistapauksia on vähän. Tislaamisesta kertominen ei siis ole näyttöä siitä, että painot olisi varastettu.3

Khanna on nostanut esiin juuri tämän eron: mallien kyselyllä saatavat tulokset ja itse mallin painojen suojaaminen ovat erillisiä kysymyksiä. Saatavilla olevat tiedot eivät osoita, että Kiina olisi onnistunut varastamaan kysymyksessä mainittujen yhtiöiden mallipainot.3

Kiista siitä, kuka asettaa turvallisuussäännöt

Yhdysvaltain presidentti Donald Trumpin hallinto on painottanut tekoäly-yhtiöiden vapaaehtoisia turvallisuustoimia. Hallinnon ja suurten kehittäjien yhteiseen sitoumukseen kuuluu muun muassa työskentely riippumattomien arvioijien kanssa, mutta kyse on vapaaehtoisesta järjestelystä.9 Reutersin mukaan hallinto ilmoitti lisäksi, ettei se testaisi avoimilla painoilla julkaistavia malleja vapaaehtoisen järjestelyn puitteissa.

Khanna ajaa tiukempaa linjaa. Hän on vaatinut, että yhtiöiden mallit tarkastetaan ennen julkaisua, ja esittänyt valtion viranomaisvalvonnan vahvistamista. Hän on myös vaatinut Yhdysvaltojen ja Kiinan välistä sitovaa tekoälyturvallisuussopimusta, johon kuuluisi valvonta- ja tarkastusmekanismeja.214

Yhtiöiden turvallisuustoimien yksityiskohtia tai mahdollisia julkisuudelta salassa pysyneitä murtoyrityksiä ei voi päätellä saatavilla olevista tiedoista. Khannan pyyntö onkin ennen kaikkea vaatimus saada näyttöä siitä, miten yhtiöt suojaavat mallipainojaan – ja riittävätkö yritysten omat keinot ilman sitovaa valvontaa.