Tekoälyn kehitystä ei tarvitse pysäyttää kaikkialla: tärkeintä on asettaa rajat riskialttiille järjestelmille

Tekoälyn kehityksen hidastamisen pitäisi tarkoittaa ennen kaikkea kehittyneimpien järjestelmien etenemistahdin sovittamista turvallisuustyön vauhtiin, ei tekoälyn käytön pysäyttämistä koko taloudessa. Tekoälyalan johtajien tuoreet avaukset ovat nostaneet esiin riippumattoman arvioinnin ja yhteistyön tarpeen. Uskottavat suojatoimet vaativat kuitenkin enemmän kuin vapaaehtoisia lupauksia: arvioijien on oltava aidosti riippumattomia, testitulosten on vaikutettava julkaisupäätöksiin ja sääntöjen on suhteuduttava riskiin.

Singaporella on tähän työhön hyödyllisiä lähtökohtia: ohjeistus tekoälyagenteista, AI Verify -testaustyökalut sekä ohjelma, joka tunnustaa kolmansien osapuolten tekoälytestaajia. Seuraava haaste on kytkeä nämä välineet selkeisiin, näyttöön perustuviin päätöksiin niistä järjestelmistä, joita ihmiset ja organisaatiot todella ottavat käyttöön. 4

Mitä vaatimukset tekoälyn hidastamisesta tarkoittavat – ja mitä eivät

Viimeaikaiset ehdotukset koskevat eturintaman tekoälyä: kaikkein kyvykkäimpiä malleja, joiden kehitysvauhti voi ylittää sekä kehittäjien turvatoimien että ulkopuolisen valvonnan kyvyn pysyä mukana. Ehdotuksissa on esitetty esimerkiksi jatkuvaa pääsyä eturintaman tekoälyä kehittävien yritysten toimintaan ulkopuolisille arvioijille, turvallisuusstandardien yhteensovittamista ja laajempaa kansainvälistä yhteistyötä.

Avaukset kertovat kiinnostuksen kasvusta, eivät siitä, että yrityksillä olisi jo yhteinen, sitova toimintamalli. Kansainvälisen tekoälyn turvallisuusraportin mukaan riskienhallinnan käytännöt ovat yhä kehittymässä ja useimmat yritysten aloitteet ovat vapaaehtoisia. Ero on olennainen: yrityksen lupaus testata mallinsa ei vielä ole täytäntöönpanokelpoinen sääntö, joka vaatii lykkäämään julkaisua, jos vakavia riskejä jää jäljelle.

Julkaisupäätöksistä riskiperusteisia

Käytännöllinen lähestymistapa asettaisi tiukemmat ehdot järjestelmille, joiden kyvykkyydet tai niille annettu päätösvalta ovat suurempia, mutta välttäisi kaikkia tekoälysovelluksia koskevan yleiskiellon. Vähävaikutteisen tekstiluonnostelijan ja merkittäviä toimia toteuttamaan valtuutetun agentin ei pitäisi automaattisesti joutua samojen vaatimusten piiriin. Singaporen agenttitekoälyn ohjeistus suosittelee jo riskien arviointia ja rajaamista sekä ihmisen hyväksyntäpisteitä merkittäville tai arkaluonteisille toimille. 46

Kehittyneille malleille ja suuren vaikutuksen käyttötapauksille tätä periaatetta voisi täydentää julkaisuprosessilla, jossa on esimerkiksi seuraavat osat:

• Riippumaton arviointi ennen julkaisua: Pätevillä ulkopuolisilla arvioijilla olisi oltava turvallinen pääsy tarvittaviin järjestelmiin ja aineistoihin. Arvioinnissa tarkasteltaisiin vaarallisia kyvykkyyksiä ja ennakoitavaa väärinkäyttöä. Jatkuvaa pääsyä arvioijille on ehdotettu osana keskustelua eturintaman tekoälyn kehitystahdista, mutta kyse ei ole yleisesti voimassa olevasta vaatimuksesta.
• Selkeät kynnysarvot ja seuraukset: Olisi määriteltävä avoimesti, millaiset havainnot edellyttävät lisäsuojia, käyttörajoituksia tai julkaisun lykkäämistä. Epäonnistuneen arvioinnin pitäisi johtaa kirjattuun vastaukseen ja riskin niin vaatiessa julkaisun lykkäämiseen – ei vain uuteen sisäiseen tarkasteluun. Nämä ovat ehdotuksia valvonnan kehittämiseksi, eivät Singaporen nykyisessä ohjeistuksessa kuvattuja vaatimuksia. 4
• Käyttötapaan sopivat suojat: Jos agentille annetaan valtuudet merkittäviin toimiin, sen pääsyä ja toimivaltaa voidaan rajata, tärkeät toimet asettaa ihmisen hyväksynnän varaan ja toimintaa seurata. Vastuut on myös määriteltävä selkeästi. Singaporen ohjeistus tukee riskien rajaamista ja mielekästä ihmisen valvontaa; tarvittavat yksittäiset suojat riippuvat järjestelmästä ja sen käyttötarkoituksesta. 48
• Uusi arviointi merkittävien muutosten jälkeen: Malli, sen työkalut tai käyttöympäristö voivat muuttua. Siksi arviointi pitäisi tehdä uudelleen, kun muutokset ovat olennaisia, eikä aiempaa testiä pitäisi käsitellä pysyvänä takeena.

Vähäriskisille sovelluksille tarvitaan selkeämpi ja kevyempi tapa päästä käyttöön. Riskiperusteinen sääntely voi jättää tilaa yritysten tekoälyn käytölle ilman, että onnistunut testi tulkitaan todisteeksi turvallisuudesta kaikissa käyttötilanteissa. EU:n tekoälysäädös on esimerkki sääntelystä, jossa vaatimukset perustuvat tekoälyn käyttötapaan liittyvään riskiin.

Yhteiset pelisäännöt, riippumattomat testaajat

Kansainvälinen yhteistyö voisi tehdä arvioinneista vertailukelpoisempia ja vähentää houkutusta hakeutua kevyimmän valvonnan piiriin. Hallitukset voisivat sopia yhteisistä testausmenetelmistä, poikkeamien jakamisesta ja vähimmäisvaatimuksista kaikkein riskialtteimmille järjestelmille. Riippumattomat arvioijat voisivat puolestaan tuottaa näyttöä näitä vaatimuksia vasten. Myös viimeaikaisissa hidastamisehdotuksissa on korostettu yritysten välistä ja rajat ylittävää yhteistyötä.

Vastuunjako on tärkeä. Viranomaisten pitäisi asettaa täytäntöönpantavat kynnysarvot ja määrittää, mitä niiden ylittämisestä seuraa. Yritykset voivat tarjota teknistä asiantuntemusta, mutta niiden ei pitäisi yksin ratkaista, täyttävätkö niiden omat järjestelmät vaatimukset. Riippumattomien testaajien menetelmien tulisi olla läpinäkyviä ja eturistiriidat ilmoitettuja. Nämä ovat ehdotetun valvontamallin suunnitteluperiaatteita, eivät uutisoiduissa yritysten avauksissa jo vahvistettuja käytäntöjä.

Singaporen nykyiset työkalut

Singaporen agenttitekoälyn mallihallintakehys antaa ohjeita organisaatioille, jotka ottavat agentteja käyttöön. Siinä käsitellään muun muassa riskien arviointia, ihmisen vastuuta ja valvontakeinoja. Kyse on vastuullisen käyttöönoton ohjeistuksesta, ei sellaisenaan sitovasta julkaisulupajärjestelmästä. 468

AI Verify tarjoaa testaustyökaluja, ja AI Tester Accreditation Programme tunnustaa kolmansien osapuolten testausyrityksiä, joilla on tarvittavaa teknistä osaamista ja toimintavalmiuksia. Yhdessä nämä aloitteet voisivat tukea yhdenmukaisempaa arviointia esimerkiksi liiketoiminnassa ja rahoitusalalla. Singapore voisi myös edistää yhteisiä arviointimalleja ja sopimusehtoja, joissa määritellään, mitä mallin tarjoajan, järjestelmäintegraattorin, käyttöönottajan ja testaajan on osoitettava. Nämä ovat mahdollisia jatkoaskeleita, eivät lähteissä mainittujen kehysten jo vahvistamia käytäntöjä.

Hyödyllinen tavoite olisi testausnäytön ja -menetelmien tunnustaminen yli rajojen – ei väite siitä, että yksi kansallinen sertifikaatti takaisi jokaisen järjestelmän turvallisuuden kaikissa käyttötarkoituksissa. Ohjeistus ja työkalut voivat auttaa jäsentämään näyttöä. Viranomaisten ja organisaatioiden on silti arvioitava, vastaako se todellista käyttöympäristöä ja sen riskejä.

Tekoälyn turvallisuus, ohjelmistojen luotettavuus ja kyberturva yhteen arviointiin

Tekoälyagentin arvioinnissa mallin tuottamien vastausten testaaminen on vasta osa kokonaisuutta. Arvioinnin pitäisi kattaa myös sitä ympäröivä ohjelmistojärjestelmä sekä niiden työkalujen ja käyttöoikeuksien turvallisuus, joihin agentti pääsee käsiksi. Kyse on toisiinsa liittyvistä mutta erillisistä kysymyksistä: millaista haitallista toimintaa tekoäly voi tuottaa, miten sovellus toimii häiriöissä tai muutostilanteissa ja voiko hyökkääjä murtautua järjestelmään tai ohjata sen toimintaa?

Tällainen kokonaisarviointi on ehdotettu laajennus varmistusmenettelyihin, ei väite siitä, että jokainen nykyinen työkalu jo kattaisi kaikki nämä osa-alueet. AI Verify Toolkit kuvaa perinteisille koneoppimisjärjestelmille tarkoitettuja teknisiä testejä, kuten oikeudenmukaisuuden, selitettävyyden ja toimintavarmuuden arviointia. Siksi agenttikäytössä tarvittavat päästä päähän ulottuvat lisätestit on määriteltävä erikseen sen sijaan, että mallikohtaisen testin oletetaan todistavan koko järjestelmän turvallisuuden.

Mistä merkityksellisen hidastamisen tunnistaa?

Hidastaminen on merkityksellistä, kun riippumaton näyttö voi muuttaa sitä, mitä seuraavaksi tapahtuu: suuren riskin julkaisu voidaan siirtää, rajata tai korjata, jos suojatoimet eivät riitä, mutta tavallisille ja vähäriskisemmille käyttötavoille jää kohtuullinen reitti käyttöönottoon. Singaporen kehykset ja testausohjelmat tarjoavat pohjan tällaiselle varmistukselle. Julkaisukynnykset, valvonta ja arviointien laajuus pitäisi kuitenkin määritellä selvästi.