Singapore laajentaa tekoälyn käyttöä – mutta ei anna agenteille vapaita käsiä

Tämä on tärkeää, koska tekoälyagentti voi tehdä paljon muutakin kuin tuottaa tekstiä. Käyttöoikeuksistaan ja liitännöistään riippuen se voi tehdä päätöksiä, kutsua muita työkaluja tai suorittaa tehtäviä koneen nopeudella. Rekisteri onkin enemmän digitaalisten työntekijöiden luettelo ja vastuunjakojärjestelmä kuin pelkkä ohjelmistokatalogi.

GovTech on kuvannut AI Assistant Deskiä suojatuksi digitaalisen avustajan ympäristöksi julkishallinnon työntekijöille. Mahdollisia käyttötapoja ovat esimerkiksi raporttien luonnostelu, aikataulujen hallinta, ohjelmointi, tiedonhaku ja muu rutiinityö.

Tekniset suojaukset määrittävät agenttien toimintatilan

Singapore näyttää rakentavan turvallisuuden ensisijaisesti tekoälyä ympäröivään järjestelmään sen sijaan, että se luottaisi vain yksittäisen mallin omiin suojauksiin. Raportoiduissa kontrolleissa ovat mukana:

• eri virastoille ja käyttötapauksille mukautettavat säännöt;
• hyväksytyt eli erikseen sallitut tekoälytyökalut;
• rajoitukset toimille, kuten tiedostojen poistamiselle tai sähköpostin lähettämiselle ulkopuolisille;
• vastaanottajien määrän rajoittaminen hallitsemattoman jakelun ja roskapostin riskin pienentämiseksi; sekä
• kehotteiden ja vastausten automaattiset tarkistukset loukkaavan kielen ja muiden sisältöongelmien varalta.

Lähestymistapa noudattaa vähimpien oikeuksien periaatetta: agentille annetaan vain ne käyttöoikeudet ja toimintamahdollisuudet, joita sen tehtävä edellyttää. Tämä korostuu erityisesti silloin, kun virastot käyttävät useita tekoälymalleja tai yhdistävät agentteja arkaluonteisiin valtion järjestelmiin.

Suojauksen pitäisi säilyä, vaikka tekoälymalli vaihtuu

GovTechin AI Guardian toimii erillisenä hallintakerroksena tekoälysovelluksille. Sen kaksi nimettyä osaa palvelevat eri vaiheita: Litmus arvioi turvallisuus- ja tietoturvariskejä ennen käyttöönottoa vastakkainasetteluun perustuvilla testeillä, kun taas Sentinel valvoo sisältöä ja suodattaa vastauksia reaaliajassa sovelluksen ollessa tuotannossa.

Kun suojaukset erotetaan varsinaisesta tekoälymallista, järjestelmä ei ole yhtä riippuvainen yhdestä toimittajasta. GovTechin mukaan myös AI Assistant Deskin tietoturva-arkkitehtuuri on suunniteltu niin, että suojaukset säilyvät, vaikka kolmannen osapuolen tekoälytyökaluja lisätään tai vaihdetaan.

Ero on olennainen: malli voi vaihtua, mutta tiedonsuojan, sallittujen toimintojen, seurannan ja vastausten turvallisuuden vaatimusten pitäisi pysyä samoina. GovTechin vastuullisen tekoälyn viitekehys nostaa keskeisiksi periaatteiksi turvallisuuden, toimintavarmuuden, tietoturvan ja yksityisyyden, selitettävyyden sekä läpinäkyvyyden.

Käyttöönoton rinnalla rakennetaan osaamista

Singapore ei keskity vain itsenäisiin tekoälyagentteihin. GovTechin Pair-avustaja tukee jo kirjoittamista, tiedonhakua, tiivistämistä ja analyysiä valtion työntekijöille tarkoitetuilla laitteilla. Sitä voidaan käyttää myös arkaluonteisen valtion datan kanssa, jota kaupalliset chatbotit eivät voi käsitellä.

GovTech kehittää lisäksi tekoälyavusteista ohjelmistosuunnittelua ja vähäkoodisia ratkaisuja, jotta tekniset tiimit ja julkishallinnon työntekijät voivat rakentaa prototyyppejä ja automatisoida työnkulkuja nopeammin. Aiemmissa GovTechin kuvauksissa on mainittu tekoälypohjaiset koodiavustajat, tekoälyn tukema ohjelmistokehitys ja työkalut, joiden avulla virastot voivat siirtää prototyyppejä turvallisempiin ympäristöihin.

Myös koulutus on osa infrastruktuuria. GovTech tarjoaa julkisen sektorin työntekijöille data- ja tekoälyoppimateriaaleja, ja Singaporen laajempiin työvoimasuunnitelmiin kuuluu tekoälytaitojen ohjelmia teknologia-ammattilaisille, jotka työskentelevät automatisoidun ohjelmoinnin ja agenttijärjestelmien parissa.

Käytännön tavoitteena on rakentaa omaa osaamista: työntekijöiden on ymmärrettävä, milloin tekoäly sopii tehtävään, teknisten tiimien on osattava arvioida ja suojata rakentamansa järjestelmät, ja virastot tarvitsevat yhteisiä alustoja irrallisten kokeilujen sijaan.

Julkishallinnon hankkeet osoittavat, miksi arviointi on tärkeää

GovTechin LangBuddy-hanke havainnollistaa sitä, että tekoälysovellusta on arvioitava sen todellista käyttötarkoitusta vasten. LangBuddy on puheeseen perustuva chatbot, jonka avulla oppilaat voivat harjoitella äidinkielensä puhumista keskustelemalla.

Tällaisen sovelluksen arviointi ei voi rajoittua siihen, kuulostavatko vastaukset sujuvilta. GovTech tarkastelee myös turvallisuutta, hallusinaatioiden riskiä ja sitä, noudattavatko vastaukset suunniteltuja pedagogisia sääntöjä.

Sama periaate koskee julkisia palveluja laajemminkin: virastojen on testattava, suoriutuuko tekoäly sille annetusta tehtävästä, noudattaako se rajoituksiaan ja käyttäytyykö se hyväksyttävästi aidoissa vuorovaikutustilanteissa. Pelkkä vakuuttavan kuuloinen vastaus ei riitä.

Kyberturva on sekä edellytys että käyttökohde

Sama hallintofilosofia näkyy GovTechin kyberturvatyössä. Sen ilmoittamiin kyvykkyyksiin kuuluvat järjestelmien turvallinen suunnittelu, red team -harjoitukset, penetraatiotestaus, joukkoistettu haavoittuvuuksien ilmoittaminen sekä blue team -toiminnot, joilla uhkia havaitaan ja torjutaan.

GovTech testaa myös tekoälyavusteista penetraatiotestausta ja tietoturvakeskusten hälytysten automaattista esikarsintaa. Näissä kokeiluissa tekoäly toimii prosessin molemmilla puolilla: se auttaa etsimään heikkouksia ja toisaalta puolustajia priorisoimaan tietoturvatapahtumia.

Joissakin kuvauksissa puhutaan yli 2 000 valtion digitaalisesta järjestelmästä kyberturvatestauksen laajentamisen yhteydessä. Saatavilla oleva aineisto tukee laajempaa suuntaa – red team -testausta, penetraatiotestausta ja tekoälyavusteisia tietoturvatoimintoja – mutta ei osoita, että jatkuva tekoälytestaus olisi jo käytössä jokaisessa näistä järjestelmistä.

Mitä kokonaisuus kertoo Singaporen strategiasta?

Yhdessä nämä hankkeet palvelevat kolmea toisiinsa liittyvää tavoitetta:

1. Julkisten palvelujen parantaminen. Avustajat ja agentit voivat hoitaa luonnostelua, analyysiä, ohjelmointia ja rutiinityönkulkuja, jolloin työntekijöille jää enemmän aikaa monimutkaisiin ja kansalaisia suoraan palveleviin tehtäviin.
2. Oman teknologiakyvykkyyden vahvistaminen. Yhteiset alustat, arviointityökalut, tietoturvakerrokset ja koulutus auttavat Singaporea säilyttämään operatiivisen osaamisen sen sijaan, että se olisi täysin yhden mallitoimittajan tai kaupallisen tuotteen varassa.
3. Luottamuksen ja kansallisten järjestelmien suojaaminen. Rekisterit, käyttöoikeudet, auditointimahdollisuudet, turvallisuustestit ja kyberpuolustus luovat valvontaa tilanteessa, jossa tekoäly saa yhä laajemman pääsyn valtion työhön ja dataan.

Keskeinen oppi on, että tekoälyn turvallinen skaalaaminen on yhtä paljon arkkitehtuuri- kuin mallikysymys. Singapore yrittää tehdä tekoälystä laajasti saatavilla olevan työvälineen, mutta pitää samalla omistajuuden, oikeudet, testauksen ja toiminnan seurannan näkyvissä niille instituutioille, jotka vastaavat julkisista palveluista.