EU:n testauspääsy paljastaa Britannian aukon kehittyneiden tekoälymallien turvallisuudessa

Britannian jääminen tiettävästi ilman ennakkopääsyä Anthropicin Claude Mythos 5.1 -malliin ei niinkään kerro maan teknisen osaamisen puutteesta kuin pääsyn haavoittuvuudesta. Kansallinen arvioija ei voi tutkia kehittynyttä mallia itsenäisesti ja ajoissa, jos osallistuminen riippuu viime kädessä kehittäjän suostumuksesta. ENISAn pääsy Anthropicin Mythos 5:een ja OpenAI:n GPT-6 Astraan on tärkeä askel, mutta se ei tarkoita, että EU:lla olisi pysyvä oikeus testata jokaista seuraavaa malliversiota – tai että ENISA olisi saanut käyttöönsä Mythos 5.1:n. 920

Ratkaiseva ero: pääsy koskee tiettyä mallia

Euroopan unionin kyberturvallisuusvirasto ENISA on saanut käyttöoikeuden Mythos 5- ja GPT-6 Astra -malleihin testausta varten, Euroopan komission tiedottajan mukaan. 9 Erillisten tietojen mukaan Anthropic ei antanut Britannian AI Security Instituten testata Mythos 5.1:tä ennen julkaisua. Kyse oli ensimmäisestä raportoidusta tapauksesta, jossa Anthropic jätti merkittävän mallin tämän brittiläisen toimijan ennakkoarvioinnin ulkopuolelle. 2023

Tilannetta ei pidä pelkistää tarinaksi EU:n voitosta ja Britannian tappiosta. ENISAn pääsy koskee kahta nimettyä mallia ja erityisiä järjestelyjä. Mythos 5.1 on eri julkaisu, jonka käyttöä on rajattu tiukemmin. Käytännön opetus on, että turvallisuusarviointi jakautuu yhä enemmän malliversion, kyvykkyyksien, käyttötarkoituksen, lainkäyttöalueen ja kehittäjän omien kumppanikriteerien mukaan.

Miksi Mythos 5.1 on hallinnollisesti vaikeampi tapaus

Anthropicin mukaan Claude Fable 5.1 ja Claude Mythos 5.1 ovat sama perusmalli, mutta niiden suojatoimet eroavat toisistaan. Fable 5.1 on yleisesti saatavilla, kun taas Mythos 5.1 on tarjolla vain luotetun pääsyn ohjelmien kautta kyberturvallisuuden ja biotieteiden työhön. 12

Kyse ei siten ole vain tavanomaisesta tuotetestauksesta. Järjestelmä, joka on tarkoitettu herkkään kyber- tai tieteelliseen työhön, nostaa esiin kysymyksiä valvotuista ympäristöistä, väärinkäytön seurannasta, henkilöstön luotettavuusselvityksistä ja kansallisen turvallisuuden käsittelykäytännöistä. Raportoinnin mukaan Mythos 5.1:n käyttö rajattiin aluksi tarkastettuihin yhdysvaltalaisiin organisaatioihin. 1824

Saatavilla oleva näyttö ei osoita, että Anthropic olisi sulkenut Britannian ulkopuolelle siksi, ettei se luottaisi maahan tai sen instituuttiin. Rajoitetun ohjelman rakenne, operatiiviset turvallisuushuomiot ja pääsyn kaupallinen hallinta ovat kaikki mahdollisia selityksiä. Lopputulos on silti merkityksellinen: vakiintunut yhteistyö ja arvioijan hyvä maine eivät taanneet oikea-aikaista pääsyä malliin, jolla voi olla suuria seurauksia.

Mitä ENISAn pääsy kertoo EU:n vaikutusvallasta

EU:lla on vapaaehtoista järjestelmää vahvempi oikeudellinen perusta. EU:n tekoälysäädöksen 55 artiklan mukaan systeemisiä riskejä aiheuttavien yleiskäyttöisten tekoälymallien tarjoajien on tehtävä malliarviointeja standardoitujen menetelmien ja työkalujen avulla, arvioitava ja lievennettävä systeemisiä riskejä, seurattava ja raportoitava vakavia vaaratilanteita sekä varmistettava asianmukainen kyberturvan taso. 4337

Säädöksessä myös edellytetään mallin arviointia ennen sen ensimmäistä markkinoille saattamista, mukaan lukien dokumentoitu vastustajatestaus. Testaus voi tilanteen mukaan olla sisäistä tai riippumatonta ulkopuolista testausta. 3534

Nämä tarjoajille asetetut velvoitteet eivät kuitenkaan ole sama asia kuin yleinen oikeus saada ENISAlle mallipainot, rajoittamaton järjestelmäpääsy tai ennakkopääsy jokaiseen kehittyneeseen mallijulkaisuun. ENISAn testausjärjestely on merkittävä juuri siksi, että se näyttää syntyneen yritysten kanssa tehdyn yhteistyön sekä EU:n laajemman sääntelyaseman kautta. 49

Sääntely voi siis vahvistaa EU:n mahdollisuuksia vaatia näyttöä, riskienhallintaa ja vaatimustenmukaisuutta. Se ei poista tarvetta turvalliselle käytännön yhteistyölle silloin, kun arvioidaan malleja, joilla on herkkiä kyber-, biologisia tai autonomisten agenttien kyvykkyyksiä.

Miksi Britannia on alttiimmassa asemassa

Britannian jääminen tiettävästi Mythos 5.1:n ulkopuolelle tuo vapaaehtoisen pääsyn rajat näkyviksi. Tapausta koskevassa raportoinnissa on vaadittu Britannian AI Security Institutelle vahvempaa lakisääteistä asemaa ja toimivaltuuksia, kun Anthropic ei myöntänyt sille pääsyä uusimpaan malliinsa. 23

Vapaaehtoinen toimintamalli voi toimia hyvin, kun tekoälylaboratoriot näkevät yhteistyön hyödylliseksi. Se voi olla nopeampi ja teknisesti joustavampi kuin jäykkä sääntely. Sen heikkous on ennakoitavuus: kehittäjä voi rajoittaa pääsyä, muuttaa kelpoisten kumppanien joukkoa tai katsoa mallin kuuluvan tiukempaan kansallisen turvallisuuden kanavaan.

Tästä syntyy Britannialle strateginen riski. Jos sen arvioijat saavat kehittyneet järjestelmät käyttöönsä vasta julkaisun jälkeen – tai vasta sen jälkeen, kun muut hallitukset ja hyväksytyt kumppanit ovat testanneet niitä – Britannia voi siirtyä turvallisuusnäytön muovaajasta muualla tuotetun näytön hyödyntäjäksi.

Kestävämpi toimintamalli Britannialle

Välitön tavoite ei edellytä mallipainojen pakollista luovuttamista. Erittäin kyvykkäiden mallien kohdalla se voisi synnyttää omia turvallisuus- ja immateriaalioikeusriskejä. Vahvempi kehys voisi sen sijaan painottaa valvottua ja auditoitavaa pääsyä.

Mahdollisia toimia ovat:

1. Ennakkoilmoitusvelvollisuus määritellyille kehittyneille malleille. Kehittäjät voitaisiin velvoittaa ilmoittamaan nimetylle viranomaiselle ennen sellaisten mallien käyttöönottoa, jotka ylittävät määritellyt kyvykkyys- tai riskikynnykset.
2. Lakisääteiset valtuudet pyytää näyttöä. AI Security Institutella voisi olla selkeä toimivalta saada turvallisuusselosteita, arviointituloksia, vaaratilannetietoja ja olennaista teknistä dokumentaatiota.
3. Suojatut arviointiympäristöt. Säännöillä voitaisiin edellyttää määräaikaista pääsyä valvottujen rajapintojen, hiekkalaatikoiden tai muiden kontrolloitujen ympäristöjen kautta sen sijaan, että vaadittaisiin pääsyä mallipainoihin.
4. Kansallisen turvallisuuden arviointipolku. Mallit, joilla on olennaisia kyber-, biotieteellisiä tai autonomisiin agentteihin liittyviä vaikutuksia, voisivat käynnistää koordinoidun arvioinnin. Siihen osallistuisivat kyber-, bioturvallisuus-, tiedustelu- ja tekoälyarvioinnin asiantuntijat.
5. Virallinen yhteistyö EU:n kanssa. Yhteiset arviointimenetelmät, vastavuoroiset turvallisen testauksen kanavat ja yhteensopivat vakavien vaaratilanteiden prosessit vähentäisivät päällekkäistä työtä ja pienentäisivät riskiä, että Britannia jäisi eurooppalaisten testausverkostojen ulkopuolelle.

Näillä toimilla vastattaisiin tapauksen paljastamaan keskeiseen heikkouteen: pääsy on rakennettava hallintajärjestelmään, eikä sitä voida jättää kokonaan yksittäisten laboratorioiden kanssa solmittujen suhteiden varaan.

Kehittyneiden tekoälymallien testauksesta on tulossa porrastettua

Todennäköinen suunta on kerroksellinen arviointijärjestelmä. Laajasti markkinoille suunnattuihin malleihin kohdistuvat tarjoajien testaus, sääntelydokumentaatio ja vaaratilannevelvoitteet. Herkempiä kyber-, biologisia ja autonomisten agenttien kyvykkyyksiä arvioidaan yhä useammin rajoitetuissa ympäristöissä. Korkeimman riskin järjestelmät voivat olla vain pienen, tarkastettujen viranomais-, laboratorio- ja turvallisuuskumppanien joukon saatavilla.

ENISAn järjestely ja Britannian jääminen Mythos 5.1:n ennakkoarvioinnin ulkopuolelle havainnollistavat, miksi ero on tärkeä. Kilpailu ei enää koske vain sitä, kuka pystyy rakentamaan vahvimman mallin. Se koskee myös sitä, kuka saa tarkastaa, testata ja hallita merkittävimpiä versioita ennen niiden laajempaa käyttöönottoa. 91220

Britannialle tekninen arviointikyky on edelleen arvokasta, mutta se ei yksin riitä. Vaikutusvallan säilyttäminen edellyttää luotettavia kotimaisia lakisääteisiä toimivaltuuksia sekä pysyviä, turvallisuusvaatimukset huomioivia pääsyjärjestelyjä ulkomaisten kumppanien kanssa.