Tekoälyn turvallisuus tarvitsee näyttöä, jonka myös ulkopuoliset voivat tarkistaa

Maailmanlaajuista tekoälyn turvallisuusjärjestelmää ei rakenneta pelkällä sertifikaatilla tai yrityksen lupauksella. Sen pitäisi osoittaa, mitä järjestelmästä on testattu, kuka testauksen teki ja mitä tapahtuu, jos näyttö ei riitä. Singaporen digitaalisen kehityksen ja tiedon ministeri Josephine Teo on verrannut tilannetta ilmailuun: laajamittainen käyttö edellyttää luottamusta, jota monet toisiaan täydentävät suojatoimet tukevat. Hänen mukaansa tekoälyn suojatoimia on kehitettävä samalla, kun sen käyttö yleistyy. 36

Ilmailun opetus on vaiheittainen yhteistyö

Kansainväliset ilmailusäännöt eivät syntyneet kerralla. Ensin toimintaa ohjasivat kansalliset lait ja maiden väliset sopimukset. Vuoden 1919 Pariisin sopimus toi varhaisia yhteisiä sääntöjä, vuoden 1944 Chicagon sopimus loi uuden kehyksen, ja Kansainvälinen siviili-ilmailujärjestö ICAO aloitti toimintansa vuonna 1947. 313935

Tekoälylle tästä ei seuraa valmista ilmailun sääntökirjaa. Käyttökelpoisempi ajatus on aloittaa rajatuista sopimuksista ja vahvistaa niitä, kun yhteisistä käytännöistä saadaan kokemusta. Kansainvälinen elin voisi laatia vähimmäisvaatimuksia, hyväksyä riippumattomia arvioijia ja koota vertailukelpoista tietoa vakavista vaaratilanteista. Kansallisten viranomaisten tehtäväksi jäisivät tarkastukset, korjausmääräykset, käyttöönoton rajoitukset ja seuraamukset. Kansainvälinen hyväksyntä ei siis korvaisi paikallista valvontaa.

Myöskään ennen julkaisua tehty testi ei saisi olla lopullinen hyväksyntä. Toiminnassa olevaa järjestelmää pitäisi seurata, olennaisten muutosten jälkeen arvioida uudelleen ja tarvittaessa voida palauttaa aiempaan versioon tai poistaa käytöstä. Hyväksynnässä olisi yksilöitävä testattu versio ja käyttöympäristö.

Turvallisuusväite pitää voida haastaa

Riippumaton arviointi tarkoittaisi enemmän kuin julkaistua testipistemäärää. Pätevällä ulkopuolisella arvioijalla pitäisi olla turvallinen pääsy olennaiseen tekoälyjärjestelmään, sen käyttöasetuksiin, dokumentaatioon ja merkittäviä häiriöitä koskeviin tietoihin. Menetelmät ja tulokset olisi kirjattava niin, että toinen pätevä arvioija voisi arvioida johtopäätökset. Samalla pääsyn rajoituksilla olisi suojattava henkilötietoja, liikesalaisuuksia ja turvallisuuden kannalta arkaluonteista aineistoa.

Suuririskisestä järjestelmästä kehittäjä voisi joutua esittämään turvallisuusperustelun: mihin järjestelmää saa käyttää, miten sitä on testattu, mitkä suojatoimet on osoitettu toimiviksi, mitä riskejä jää jäljelle ja miten häiriöihin vastataan. Jos näyttö ei riitä, viranomaisen pitäisi voida vaatia korjauksia tai rajoittaa käyttöä. Tavoite olisi todennettava sääntöjen noudattaminen, ei mahdoton lupaus siitä, ettei vahinkoa voi koskaan sattua.

Arvioijien riippumattomuus koskee myös rahaa. Suuret kehittäjät voisivat rahoittaa testausta yhteisen rahaston tai viranomaisen hallinnoimien maksujen kautta sen sijaan, että ne valitsisivat ja ohjaisivat arvioijiaan suoraan. Vakavat epäonnistumiset ja läheltä piti -tilanteet pitäisi tutkia riippumattomasti, jotta niistä voidaan oppia. Suojattu ilmoittaminen voisi helpottaa virheiden esiin tuomista, mutta se ei saisi suojata peittelyä tai väärinkäytöksiä.

Singapore voisi olla yksi testauspaikka – luottamus pitäisi ansaita

Singaporella on AI Verify -testaustyökalupakki ja tekoälyn turvallisuusinstituutti, jotka tarjoavat pohjaa testaus- ja arviointityölle. Teo on painottanut suojatoimien rakentamista tekoälyn käyttöönoton rinnalla. 13 Maa voisi siksi tarjota tilan yhteisille arvioinneille tai luottamukselliselle tekniselle tiedonvaihdolle osana laajempaa, hyväksyttyjen laboratorioiden verkostoa.

Testauspaikan sijainti ei kuitenkaan yksin tekisi siitä Yhdysvaltojen ja Kiinan luottamaa. Siihen tarvittaisiin läpinäkyvää hallintoa, turvalliset pääsysäännöt, riippumattomat muutoksenhakukeinot ja molempien maiden todellista osallistumista. Hajautettu verkosto myös vähentäisi riippuvuutta yhdestä keskuksesta.

Aloita yhteisistä uhkista, älä kiistasta kehityksen hidastamisesta

Tekoälyn kehittämisen tahdista ei ole yksimielisyyttä. Reutersin mukaan Dario Amodei, Sam Altman ja Elon Musk ovat kannattaneet koordinoitua hidastamista. Mark Zuckerberg on painottanut markkinaehtoisia suojatoimia, kun taas Jensen Huang on torjunut uuden sääntelyn tarpeen. 4748 Kiina on vastustanut hidastamisvaatimuksia. Yhdysvaltain presidentti Donald Trump puolestaan sanoi ennen 24. syyskuuta pidettyä tapaamistaan Kiinan presidentin Xi Jinpingin kanssa, ettei odottanut edistystä tekoälyn suojarajoissa. Tapaamisesta raportoitiin muutenkin vähäisin odotuksin suurten läpimurtojen suhteen. 585049

Kaikesta tästä ei tarvitse päästä sopuun ennen kuin ryhdytään torjumaan vaaroja, joita kumpikin maa haluaa välttää. Yhdysvaltalaiset ja kiinalaiset turvallisuusasiantuntijat ovat esittäneet rajoja ydinasejärjestelmiin kohdistuvalle tekoälyn toiminnalle, ihmisen päätösvaltaa merkittävissä kyberhyökkäyksissä sekä yhteydenpitokanavaa autonomiseen tekoälyyn liittyville vaaratilanteille. 20 Niistä voisi edetä kiireellisiin yhteydenottomenettelyihin, vakavista tapauksista ilmoittamiseen ja vastavuoroiseen tekniseen keskusteluun. Yhdysvaltojen ja Kiinan osallistuminen olisi tärkeää, mutta myös muilla mailla pitäisi olla mahdollisuus vaikuttaa sääntöihin ja saada käyttöönsä arviointikykyä.

Asevalvonnasta kannattaa lainata ajatus rajatuista, vastavuoroisista ja todennettavista sitoumuksista. Finanssivalvonnasta taas voi ottaa riskiperusteisuuden: laajavaikutteisilta järjestelmiltä vaadittaisiin riippumattomia arviointeja, johdon vastuuta, palautumissuunnitelmia sekä nopeaa ilmoittamista vakavista turvallisuushäiriöistä, merkittävistä tietovuodoista, tietomurroista ja mallivarkauksista. Vähäriskisiä palveluja tarjoaville pienille yrityksille riittäisivät kevyemmät menettelyt ja yhteinen testausinfrastruktuuri. Pieni koko ei silti saisi vapauttaa vaarallista järjestelmää tiukoista vaatimuksista.

Kansainvälinen sopimus ja pysyvä valvontaelin vuoteen 2030 mennessä olisivat kunnianhimoinen tavoite, eivät ennuste. Uskottavampi ensimmäinen mittari on, pääsevätkö maat sopuun vaaratilanteiden määritelmistä, arvioijien riippumattomuudesta ja vastavuoroisista suojatoimista – ja voivatko viranomaiset toimia, kun näyttö turvallisuudesta jää puutteelliseksi.