Ro Khanna haluaa tietää, onko tekoälymallien painoja yritetty varastaa

Yhdysvaltain edustajainhuoneen jäsen Ro Khanna pyytää OpenAI:lta, Anthropicilta, Googlelta, Metalta ja SpaceX:ltä selvitystä siitä, onko Kiina tai jokin muu vihamielinen toimija yrittänyt saada luvatta haltuunsa niiden tekoälymallien painoja. Hän haluaa myös tietää, millaisia kyberturvakeinoja yhtiöt käyttävät niiden suojaamiseen.713

Khannan huoli on, että painojen varastaminen voisi antaa hyökkääjälle mallin itsensä ja heikentää Yhdysvaltain etumatkaa tekoälykilpailussa. Tällaisella pääsyllä voisi hänen näkemyksensä mukaan olla myös kansalliseen turvallisuuteen liittyviä seurauksia. Kyse on kuitenkin selvityspyynnöstä: se ei osoita, että jonkin yhtiön mallipainot olisi jo varastettu.1114

Mallipainojen varastaminen ei ole sama asia kuin distillaatio

Mallipainot ovat koulutetun tekoälymallin sisäisiä numeerisia parametreja, jotka vaikuttavat siihen, miten malli toimii. Niiden saaminen voisi mahdollistaa mallin kopion käyttämisen. Distillaatiossa taas toinen malli koulutetaan hyödyntämällä alkuperäisen mallin tuottamia vastauksia. Kyse on siis mallin tulosten käyttämisestä uuden mallin rakentamiseen, ei alkuperäisten painojen haltuunotosta.4717

Yhdysvaltain viranomaiset ovat syyttäneet kiinalaisia tekoäly-yhtiöitä amerikkalaisten mallien distilloinnista. Myös OpenAI ja Anthropic ovat kertoneet tällaisesta toiminnasta. Tunnettuja tapauksia, joissa joku olisi todella varastanut mallipainot, on kuitenkin vähän.613

Kyberturvasta laajempaan tekoälykilpailuun

Khannan kysely kytkeytyy sekä kilpailuun Yhdysvaltain ja Kiinan välillä että keskusteluun siitä, miten voimakkaita tekoälyjärjestelmiä pitäisi valvoa. Hän on samalla vaatinut maiden välisiä yhteisiä suojatoimia, valvontaa ja turvallisuusstandardeja. Analyytikot ovat varoittaneet, että syvenevät kiistat väitetystä kopioinnista voivat vaikeuttaa yhteistyötä.2518

Keskustelussa on myös jännite sääntelyn ja yritysten oman vastuun välillä. Trumpin hallinto on esittänyt, että tietyt edistyneet mallit voitaisiin toimittaa vapaaehtoisiin hallituksen kyberturvallisuustesteihin. Hallinto on lisäksi nojannut yritysten vapaaehtoisiin sitoumuksiin ja itsevalvontaan. Khannan tiedustelu puolestaan vaatii yhtiöitä kertomaan konkreettisesti omista suojauksistaan. Saatavilla olevat tiedot eivät osoita, että vapaaehtoiset testit estäisivät mallipainojen varastamisen tai että jokin viidestä yhtiöstä olisi joutunut sellaisen varkauden kohteeksi.713