Britannia ei halua tekoälylle omaa hätäkatkaisijaa

Britannian hallituksen torjuma tekoälyn niin sanottu hätäkatkaisija ei tarkoita, että se vähättelisi vaarallisten mallien riskejä. Hallituksen keskeinen perustelu on toimivallan rajallisuus: Britanniassa tehtävä mallin, käyttöoikeuden tai datakeskuksen sulkeminen ei estäisi vastaavan järjestelmän kehittämistä, ylläpitoa tai väärinkäyttöä muualla maailmassa. 1

Tästä on syntynyt selkeä linjariita. Ministerit katsovat, että vakaviin kyberhäiriöihin voidaan puuttua jo nykyisillä keinoilla ja sääntelyä voidaan kiristää, jos vapaaehtoiset turvatoimet eivät riitä. Uusien valtuuksien kannattajien mielestä katastrofaalisiin riskeihin tarvitaan nimenomaiset, täytäntöönpanokelpoiset keinot jo ennen hätätilannetta. 1617

Mitä hätäkatkaisijalla olisi voitu tehdä?

Liberaalidemokraattien lordi Tim Clement-Jones ehdotti Cyber Security and Resilience Bill -lakiesitykseen muutosta, joka olisi luonut oikeudellisen mekanismin hätätoimiin vaarallista tekoälyä vastaan. Kyse olisi ollut viimeisen keinon valtuudesta poistaa käytöstä tekoälymalli tai keskeyttää Britanniassa sijaitsevan datakeskuksen toiminta, jos järjestelmä aiheuttaisi vakavan turvallisuus- tai toiminnallisen uhan. 26

Nykyiset kybersäännöt kohdistuvat ensisijaisesti verkko- ja tietojärjestelmien turvallisuuteen. Arvostelijoiden mukaan ne eivät selvästi luo erityistä kehystä kehittyneimpien mallien kehittäjien valvontaan tai autonomisen mallin itsensä aiheuttamiin riskeihin reagoimiseen. 15

Hallituksen perustelu: tekoälyä ei voi sammuttaa yhdestä maasta

Cabinet Office, Britannian hallinnon keskusvirasto, painottaa toimivaltakysymystä. Sen mukaan Britannia ei voi yksinkertaisesti ”sammuttaa tekoälyä”: mallien käytön rajoittaminen maassa ei estäisi niiden kehittämistä tai väärinkäyttöä toisessa valtiossa. 1

Tämä on myös kansallisen sammutusvallan käytännön heikkous. Se voisi häiritä Britannian toimivallan piirissä olevaa infrastruktuuria, mutta ei yksin poistaisi mallipainoja käytöstä, pysäyttäisi ulkomaisia etäpalveluja eikä estäisi muiden toimijoiden vastaavaa kehitystyötä. Kotimainen valta voisi auttaa rajaamaan paikallista tapausta, mutta se ei olisi täydellinen ratkaisu kansainväliseen teknologiaan liittyvään uhkaan.

Entinen OpenAI-tutkija Daniel Kokotajlo esitti samansuuntaisen näkemyksen: yksipuolinen sammutus olisi riittämätön ilman kansainvälistä sopimusta. Hän pitää tällaisia keinoja parempina kuin niiden puuttumista kokonaan, mutta korostaa, että diplomatia – erityisesti yhteistyö Yhdysvaltojen kanssa – olisi tärkeämpää kehittyneimpien mallien kehityksen hidastamisessa tai hallinnassa. 14

Miksi ministerit vetoavat nykyisiin kybervaltuuksiin?

Hallitus ei esitä, että yritysten omaan harkintaan pitäisi vain luottaa. Ministerien mukaan Cyber Security and Resilience Bill sisältää jo perusteita puuttua tilanteeseen, jossa vaarantunut verkko- tai tietojärjestelmä uhkaa kansallista turvallisuutta. Toimet voisivat sisältää vaatimuksen lopettaa tekoälymallin käyttö ja eristää se. 16

Tekoälyministeri Kanishka Narayan on lisäksi sanonut, että hallitus harkitsisi kehittyneille malleille sitovia sääntöjä, jos vapaaehtoiset ennen käyttöönottoa tehtävät turvatoimet eivät enää suojelisi yleisöä. Britannian AI Security Institute saa tällä hetkellä vapaaehtoisten järjestelyjen kautta käyttöönsä malleja ennen niiden julkaisua muun muassa OpenAI:lta, Anthropicilta ja Googlelta. 17

Erimielisyys voidaan tiivistää näin:

• Hallituksen näkemys: kohdennetut kybervaltuudet, kehittäjien vastuu, vapaaehtoinen pääsy malleihin ja kansainvälinen yhteistyö ovat käytännöllisempiä kuin vain Britanniaan ulottuva sammutuskytkin.
• Kriitikoiden näkemys: vapaaehtoinen pääsy ja yleiset kybervaltuudet eivät korvaa laissa säädettyä valtaa vaatia testejä, asettaa rajoituksia tai pysäyttää käyttöönotto, kun riskit muuttuvat liian suuriksi.

Mitä Alex Sobelin AI Security Bill ehdottaisi?

Työväenpuolueen kansanedustajan Alex Sobelin erillinen AI Security Bill -lakialoite menisi hätäsammutusta pidemmälle. Sen kerrotaan kieltävän keinotekoisen superälyn kehittämisen, käyttöönoton ja käytön erityisesti silloin, kun järjestelmää ei voida pitää ihmisen hallinnassa. 23

Lähestymistapa olisi ennaltaehkäisevä. Sen sijaan, että vaarallinen järjestelmä yritettäisiin pysäyttää vasta sen jo toimiessa, aloite antaisi hallitukselle roolin valvoa ja ohjata kehitysprosessia tekoälyn koko tuotantoketjussa, myös sirutasolla. 7

Aloitteessa tunnustetaan myös rajat ylittävä ongelma: hallituksen edellytettäisiin tavoittelevan kansainvälistä sopimusta hallitsemattoman superälyn estämiseksi. 3

Miksi aloitteen eteneminen on vaikeaa?

Sobelin esitys on yksittäisen kansanedustajan lakialoite. Tällaiset aloitteet tarvitsevat yleensä hallituksen tuen edetäkseen, ja hallituksen vastustus samankaltaista hätäkatkaisijaa kohtaan viittaa siihen, että näin vahvoille toimille ei juuri nyt ole laajaa poliittista tukea. 21

Britannia nojaa yhä pitkälti nykyiseen lainsäädäntöön, alakohtaisiin sääntelyviranomaisiin ja vapaaehtoisiin järjestelyihin kehittyneimpien mallien osalta. Narayan on jättänyt oven auki tiukemmalle sääntelylle, mutta vasta siinä tapauksessa, että nykyinen vapaaehtoinen malli osoittautuu riittämättömäksi. 17

Kiistan todellinen kohde

Kysymys ei lopulta ole vain yhdestä napista, jota valtio voisi painaa. Kyse on siitä, missä järjestyksessä ja millä tasolla riskejä hallitaan:

1. Ennaltaehkäisy: laskentakapasiteetin, sirujen, koulutuksen, testauksen ja käyttöönoton valvonta ennen julkaisua.
2. Puuttuminen: selkeät valtuudet eristää tai pysäyttää akuutin turvallisuusuhan aiheuttavat järjestelmät.
3. Kansainvälinen koordinointi: sopimukset, jotka vähentävät sääntelyn kiertämistä ja tekevät kansallisista suojatoimista tehokkaampia.

Hallitus hylkäsi erillisen kansallisen hätäkatkaisijan, koska pitää sitä riittämättömänä maailmanlaajuiseen uhkaan. Kriitikot hyväksyvät tämän rajoituksen, mutta päätyvät päinvastaiseen johtopäätökseen: kotimaisia lakisääteisiä valtuuksia pitäisi rakentaa kansainvälisen yhteistyön rinnalle, ei sen vaihtoehdoksi. 1316