Singaporen 116-sivuinen tekoälyopas hallituksille: 7 sääntöä vastuulliseen AI-johtamiseen

Käytännön testi ei ole se, osaavatko jäsenet keskustella uusimmasta kielimallista. Olennaisempaa on, ymmärtävätkö he, mihin yritys käyttää tekoälyä, mitä voi mennä pieleen ja onko johdolla valmiudet reagoida.

2. Mittaa tuloksia, älä tekoälytoiminnan määrää

Tekoälyinvestointeja pitäisi arvioida konkreettisten liiketoimintatulosten, ei käyttöönoton aktiivisuuden perusteella. Pilottien, hankittujen lisenssien, koulutusten tai kokeilujen määrä kertoo toiminnasta – ei vielä syntyneestä arvosta. Arvoa voivat olla esimerkiksi sujuvammat työnkulut, säästetty aika, parempi asiakaskokemus ja toiminnan tehokkuus.

Hallituksen kannattaa kysyä ainakin:

• Mihin liiketoimintaongelmaan järjestelmä vastaa?
• Minkä tuloksen odotetaan paranevan ja kuinka paljon?
• Miten parannus mitataan?
• Millä näytöllä pilotista voidaan siirtyä laajempaan käyttöön?
• Mitkä ovat valvonnan, tietoturvan, integraatioiden ja mahdollisten virheiden kustannukset?

Kokeilujen suuri määrä voi osoittaa kiinnostusta, mutta se ei yksinään kerro investoinnin tuotosta.

3. Tee työntekijöiden kokeiluista hallittua kyvykkyyttä

Työntekijät löytävät usein hyödyllisiä tekoälysovelluksia ennen kuin yrityksen viralliset ohjelmat ovat edes käynnistyneet. Opas kannustaa hallituksia ja johtoa hyödyntämään tätä osaamista, mutta tuomaan kokeilut samalla organisaation valvontakehykseen.

Käytännössä tämä tarkoittaa esimerkiksi tekoälyn avulla rakennettujen työkalujen dokumentointia, käyttöoikeuksien ja käyttötarkoitusten määrittelyä sekä turvallisuus- ja hallintovaatimusten tarkistamista. Tavoitteena ei ole tukahduttaa kokeiluja, vaan estää hyödyllisten prototyyppien muuttuminen näkymättömiksi ja tukemattomiksi järjestelmiksi, jotka käsittelevät yrityksen tietoja tai vaikuttavat asiakkaisiin ja työntekijöihin ilman riittäviä suojauksia.

4. Käsittele tekoälyn riskit koko yrityksen riskeinä

Tekoälyn hallinta ei rajoitu mallin tekniseen suorituskykyyn. Hallituksen tulisi tarkastella eettisiä, kyber-, data-, turvallisuus-, yksityisyys- ja osaamisriskejä sekä vaikutuksia yrityksen toimintavarmuuteen ja pitkän aikavälin arvonluontiin.

Hallituksen pitäisi tietää, missä tekoälyä käytetään, mitä dataa ja ulkopuolisia palveluntarjoajia järjestelmiin liittyy, kuka kustakin järjestelmästä vastaa, miten vaaratilanteista ilmoitetaan ja milloin käyttöönotto on keskeytettävä tai arvioitava uudelleen.

Valvonnan on oltava suhteutettu riskiin. Sisäinen, matalan vaikutuksen tuottavuustyökalu ei vaadi samanlaista kontrollitasoa kuin järjestelmä, joka vaikuttaa työhön, asiakkaan palveluun pääsyyn tai turvallisuuteen.

5. Määritä ihmisen valvonta ja tiukat rajat

Oppaan mukaan hallituksen on asetettava tekoälylle selkeät päätöksenteon rajat. On määriteltävä, milloin ihmisen tarkistus on pakollinen ja missä tilanteissa automatisoituja päätöksiä ei saa tehdä lainkaan – erityisesti silloin, kun päätökset vaikuttavat asiakkaisiin, työntekijöihin, turvallisuuteen tai yksityisyyteen.

Ihmisen valvonta on todellista vain, jos tarkistajalla on riittävästi tietoa, aikaa ja valtuuksia kyseenalaistaa tai kumota tekoälyn ehdotus. Pelkkä muodollinen hyväksymisvaihe ei saa muuttua automaattisen päätöksen kumileimasimeksi.

6. Suojaa ihmiset tekoälyavusteisissa henkilöstöpäätöksissä

Rekrytoinnissa, ylennyksissä ja suoriutumisen arvioinnissa käytetty tekoäly voi vaikuttaa suoraan ihmisten mahdollisuuksiin ja toimeentuloon. Opas suosittelee näissä käyttötapauksissa ihmisen tekemää tarkistusta, harhatestausta ja datan laadun arviointia. Lisäksi vaikutusten kohteeksi joutuvilla henkilöillä pitäisi olla selkeä tapa pyytää päätöksen uudelleenarviointia tai riitauttaa se.

Hallituksen näkökulmasta oikeudenmukaisuus muuttuu näin yleisestä periaatteesta konkreettisiksi valvontakysymyksiksi: millä näytöllä järjestelmän tiedetään toimivan suunnitellusti, ketkä saattavat joutua epäedulliseen asemaan ja miten päätöstä voi haastaa?

7. Pidä kyberkestävyys ja vastuu hallituksen pöydällä

Opas sijoittaa tekoälyn osaksi organisaation laajempaa digitaalista ja toiminnallista kestävyyttä. Sen suositukset heijastavat kasvavia odotuksia siitä, että hallitukset valvovat aktiivisesti myös tekoälyyn liittyviä kyberriskejä eivätkä oleta teknisten tiimien pystyvän hoitamaan niitä yksin.

Johtajien kannattaa kysyä johdolta esimerkiksi:

• Miten tekoäly muuttaa yrityksen hyökkäyspinta-alaa?
• Miten arkaluonteiset tiedot suojataan?
• Miten palveluntarjoajat ja toimittajat arvioidaan?
• Miten yritys toimisi, jos tekoälyjärjestelmä vaarantuisi tai tuottaisi haitallisen lopputuloksen?

Tarkat kontrollit vaihtelevat organisaation mukaan. Vastuu oikeiden kysymysten esittämisestä kuuluu kuitenkin edelleen hallitukselle.

Viisi kysymystä seuraavaan hallituksen kokoukseen

Ensimmäisen arvioinnin voi aloittaa näistä kysymyksistä:

1. Missä tekoälyä jo käytetään – myös työntekijöiden itse rakentamissa työkaluissa?
2. Mitkä käyttöönotot ovat strategisesti merkittäviä tai vaikutuksiltaan suuria?
3. Mitä hyöty- ja riskimittareita johto raportoi hallitukselle?
4. Missä ihmisen tekemä tarkistus on pakollinen, ja missä automatisoidut päätökset on kielletty?
5. Voivatko päätösten kohteeksi joutuneet ihmiset pyytää muutosta, ja pystyykö organisaatio keskeyttämään järjestelmän turvallisesti?

Oppaan laajempi viesti on, ettei vastuullinen tekoälyn hallinta ole kertaluonteinen ohjeistusprojekti. Hallitus tarvitsee riittävästi ymmärrystä strategian valvontaan, riittävästi näyttöä hyödyn arviointiin ja riittävästi toimivaltaa rajoitusten asettamiseen silloin, kun riskit ylittävät hyödyt.