Singaporen vastaus tekoälyn uhkakuviin: testaa järjestelmät, rajaa agenttien valtuudet

Tekoälyn mahdollisista äärimmäisistä riskeistä käydään jälleen kiivasta keskustelua. Singaporen tekoälyalan puheenvuoroissa vastausta ei kuitenkaan haeta valinnasta vapaan kehityksen ja kaiken kattavan tauon välillä. Painopiste on siinä, mitä voidaan testata riippumattomasti, mitä turvallisuuskäytännöistä voidaan todentaa ja mitä järjestelmät saavat tehdä käytössä. 732

Mistä syyskuun keskustelu lähti?

Anthropicilta lähtenyt Jacob Coxon, joka oli työskennellyt myös OpenAI:ssa, syytti yhtiöitä vastuuttomasta kilpajuoksusta kohti itseään kehittävää superälykkyyttä. Anthropicilla työskentelevä tutkija Evan Hubinger yhtyi huoleen ja arvioi henkilökohtaisesti, että tekoälyn aiheuttaman ihmiskunnan sukupuuton riski seuraavan vuosikymmenen aikana on yli 10 prosenttia. Luku on hänen arvionsa, ei mitattu todennäköisyys tai näyttö siitä, että sukupuutto olisi lähellä. 34

Anthropicin toimitusjohtaja Dario Amodei kehotti 12. syyskuuta hidastamaan kehitystä. Hänen ehdotukseensa kuului myös ulkopuolisten arvioijien pääsy tarkistamaan turvallisuuskäytäntöjä ja niitä koskevaa viestintää sekä raportoimaan poikkeamista. Kysymys ei silloin ole vain siitä, kuinka vakavalta uhka tuntuu, vaan myös siitä, mitä riippumaton taho pystyy tarkistamaan. 1332

Testi voi paljastaa puutteita – ei taata tulevaisuutta

Singaporessa vuonna 2022 käyttöön otettu AI Verify -työkalukokonaisuus auttaa arvioimaan, ovatko tekoälyn tuottamat tulokset oikeudenmukaisia, toimintavarmoja ja selitettävissä. AI Tester Accreditation Programme puolestaan on esitetty keinona vahvistaa testausosaamista. Kumpikaan ei todista, että kaikki tulevat tekoälyjärjestelmät olisivat turvallisia. 1933

Riippumaton arviointi vaatii enemmän kuin palveluntarjoajan ilmoituksen siitä, että malli läpäisi sisäisen testin. Arvioijilla on oltava riittävästi pääsyä käytäntöjen tarkistamiseen ja poikkeamien havaitsemiseen. Myös tekoälyä käyttöön ottava organisaatio tarvitsee tietoa ja hallintakeinoja ennen kuin se kytkee mallin omiin tietoihinsa ja työprosesseihinsa. Pelkkä pääsy mallin painokertoimiin ei vielä kerro kaikkia koulutukseen liittyviä ratkaisuja, havaittuja ongelmia tai suojatoimia. 3234

Tämä ei tarkoita, ettei mitään kehitystä pitäisi koskaan hidastaa. Keskustelussa siteeratun Singaporessa toimivan asiantuntijan mukaan tietty toiminta pitäisi keskeyttää, jos kehittäjä ei pysty pitämään järjestelmää riittävästi hallinnassa tai selittämään, miten vakavia riskejä torjutaan. Kyse on silloin osoitettuun ongelmaan sidotusta rajasta, ei kaikkia sovelluksia koskevasta tauosta. 32

Agentin oikeudet on rajattava ennen käyttöönottoa

Tekoälyagentti voi käyttää työkaluja ja tehdä toimia osana työprosesseja. Siksi sen valtuuksista tulee välitön turvallisuuskysymys. Singaporen digitaalisen viestinnän ja median kehittämisviranomainen IMDA julkaisi tammikuussa 2026 agenttipohjaisen tekoälyn hallintamallin. Ohjeistus kehottaa arvioimaan riskit etukäteen sekä rajaamaan agenttien itsenäisyyttä ja pääsyä työkaluihin ja tietoihin. Päivitetty versio täsmentää vähimpien tarvittavien oikeuksien periaatetta. Kyse on ohjeistuksesta, ei yleisestä laillisesta kiellosta ottaa agentteja käyttöön. 504852

Organisaatiolle tämä merkitsee esimerkiksi sitä, että jokaiselle agentille nimetään vastuuhenkilö, sen käyttöoikeudet pidetään suppeina ja sen toimia seurataan. Toimien pitäisi olla jäljitettävissä ja mahdollisuuksien mukaan peruttavissa. Nämä ovat konkreettisempia takeita kuin yleinen vakuutus agentin turvallisuudesta. 34 Singaporen ministeri Josephine Teo on verrannut tekoälyn suojatoimien ja standardien luomaa luottamusta siviili-ilmailun turvallisuuskäytäntöihin. 17

Ydinajatus on vastuu epävarmuuden keskellä: testataan se, mikä voidaan testata, annetaan ulkopuolisille mahdollisuus tarkistaa väitteet ja jätetään myöntämättä valtuudet, joita ei pystytä turvallisesti hallitsemaan. Se ei ratkaise keskustelua tekoälyn pitkän aikavälin riskeistä, mutta asettaa kehittäjille ja käyttöönottajille tehtäviä jo nyt. 3248