Näin Singapore valmistautuu tekoälyn vauhdittamiin kyberhyökkäyksiin

Tekoäly voi vahvistaa myös tietojenkalastelua ja esiintymistä toisena henkilönä. CSA:n mukaan hyökkääjät voivat tuottaa uskottavia huijausviestejä massoittain, luoda realistisia ääniklooneja ja videoväärennöksiä sekä kehittää työkaluja monivaiheisen tunnistautumisen ohittamiseen. Siksi hyökkäyspinta ei rajoitu teknisiin haavoittuvuuksiin: myös identiteetit, käyttöoikeudet ja ihmisten päätöksenteko ovat houkuttelevia kohteita.

Mitä Claude Mythos Preview -mallista tiedetään?

Anthropic on kuvannut Claude Mythos Preview -mallia erittäin kyvykkääksi tietoturvatehtävissä ja käynnistänyt Project Glasswing -hankkeen, jossa mallia käytetään kriittisten ohjelmistojen puolustamiseen. Mallia koskeviin näyttävimpiin väitteisiin on kuitenkin syytä suhtautua varauksella: riippumaton varmennus on edelleen rajallista, eikä Anthropic ole julkaissut mallia laajasti, vaan pitänyt sen valvotussa, rajatulle kumppanijoukolle tarkoitetussa käytössä.

Singaporen hallitus on ilmoittanut, ettei sillä ole pääsyä Mythokseen eikä se oleta saavansa ennakkopääsyä jokaiseen tulevaan frontier-malliin. Sen sijaan hallitus kertoo tekevänsä yhteistyötä tekoälylaboratorioiden, kyberturvayritysten ja muiden kumppaneiden kanssa seuratakseen mallien kyvykkyyksien kehitystä ja arvioidakseen niiden turvallisuusvaikutuksia.

Tällä on käytännön merkitystä. Organisaatiot eivät voi rakentaa turvallisuussuunnitelmaansa yhden nimeltä mainitun mallin tarkastamisen varaan. Tarvitaan suojauksia, jotka toimivat myös silloin, kun käyttöön tulee uusia malleja, työkaluja ja hyökkäystapoja.

Singaporen välittömät puolustustoimet

CSA ja GovTech ovat varoittaneet kriittisen tietoinfrastruktuurin omistajia ja valtion virastoja frontier-tekoälyn riskeistä. Ensimmäiset toimet ovat käytännöllisiä:

• Päivitä internetiin näkyvät järjestelmät ensin. Korjaa kaikki kriittiset ja vakavat haavoittuvuudet järjestelmissä, jotka ovat internetin kautta saavutettavissa. Etusijalle on asetettava kohteet, joiden kautta hyökkäys voisi levitä laajalle.
• Suojaa ylläpitäjien pääsy. Ota monivaiheinen tunnistautuminen käyttöön hallinnollisissa käyttöliittymissä, yhdyskäytävissä ja pilvipalvelujen hallintakonsoleissa. Jos MFA ei ole teknisesti mahdollinen, pääsyä tulee rajata esimerkiksi IP-osoitteiden sallittujen listojen avulla.
• Tarkista käyttöoikeudet. Käy läpi ylläpitäjätilit, vanhentuneet käyttäjätilit ja tarpeettomat oikeudet. Vähimpien tarvittavien oikeuksien periaate ja verkon segmentointi voivat rajoittaa vahinkoja sen jälkeen, kun hyökkääjä on päässyt järjestelmään.
• Paranna näkyvyyttä. Pidä ajantasainen luettelo kriittisistä järjestelmistä, internetiin näkyvistä resursseista, pilvipalveluista ja kolmansien osapuolten riippuvuuksista. Seuraa niitä jatkuvasti.
• Harjoittele reagointia. Vasteohjeissa on oltava selkeät eskalointireitit, testatut varmuuskopiot ja harjoitukset, joissa huomioidaan aiempaa nopeammat ja automatisoidummat hyökkäykset.

Toimet eivät sinänsä ole uusia. Frontier-tekoäly tekee viivyttelystä kuitenkin vaarallisempaa. Tavoitteena on vähentää hyökkääjille tarjolla olevien aukkojen määrää ja lyhentää havaitsemisen sekä korjaamisen välistä aikaa.

Tekoäly puolustukseen – mutta suojaa myös tekoäly

Tekoälyä hyödyntävä kyberturvallisuus voi auttaa uhkien havaitsemisessa, hälytysten priorisoinnissa, tapausten tutkinnassa ja haavoittuvuuksien korjaamisessa. Singaporen CSIT kuvaa tekoälyavusteisia työnkulkuja ja fuzzing-testijärjestelmiä, joilla etsitään nollapäivähaavoittuvuuksia kriittisistä ohjelmistoista. Lisäksi organisaatiot voivat käyttää hyökkääjien toimintaa jäljitteleviä testejä paljastaakseen arkkitehtuurin heikkoudet ennen todellista hyökkäystä.

Puolustukseen käytettävä tekoäly tuo kuitenkin mukanaan omat turvallisuusvastuunsa. CSA:n mukaan pelkkä mallin suojaaminen ei riitä. Riskit on arvioitava koko tekoälyn elinkaaren aikana: suunnittelussa, kehityksessä, käyttöönotossa, käytössä ja ylläpidossa sekä käytöstä poistamisen yhteydessä. Suojattavia kohteita ovat mallin lisäksi koulutus- ja käyttötiedot, rajapinnat, riippuvuudet, toimitusketjut, käyttöoikeudet ja valvonta.

Ihmisen tekemä varmistus on edelleen välttämätön, etenkin kun tekoäly ehdottaa korjausta, luokittelee tietoturvatapausta tai suosittelee toimenpidettä, joka voi vaikuttaa operatiiviseen teknologiaan tai julkisiin palveluihin.

Sama toimintamalli kriittisille toimijoille ja yrityksille

Singaporen linja yhdistää perustason suojaukset ja jatkuvan testaamisen. Kriittisen tietoinfrastruktuurin omistajat käyttävät jo ulkopuolisia auditointeja ja säännöllisiä penetraatiotestejä, joiden raportit toimitetaan CSA:lle. Hallitus on kuitenkin korostanut, että suojauksia on vahvistettava jatkuvasti eikä luotettava ainoastaan määräaikaisiin tarkastuksiin.

Toimintaperiaate voidaan tiivistää kolmeen tavoitteeseen: sulje aukot, löydä uhat ensin, korjaa nopeasti. Käytännössä tämä tarkoittaa järjestelmäluetteloita, jatkuvaa haavoittuvuuksien skannausta, ripeitä päivityksiä, verkkojen ja käyttöoikeuksien segmentointia, ohjelmistojen ja riippuvuuksien testaamista sekä palautumisen harjoittelua.

Myös yritysten, joita ei ole nimetty kriittisen tietoinfrastruktuurin omistajiksi, kannattaa soveltaa samaa mallia internetiin näkyviin palveluihin, identiteetinhallintaan, pilvikonsoleihin ja arkaluonteisiin kolmansien osapuolten yhteyksiin.

Tiedon jakaminen ratkaisee

Yksikään organisaatio ei pysty seuraamaan kaikkia frontier-tekoälyn kyvykkyyksiä tai kaikkia mahdollisia hyökkäysreittejä. Viranomaisten, kriittisen infrastruktuurin ylläpitäjien, pilvi- ja teknologiayhtiöiden, tietoturvatutkijoiden ja akateemisen maailman pitäisi jakaa käyttökelpoisia uhkatunnisteita, haavoittuvuustietoja ja harjoituksista saatuja oppeja mahdollisimman nopeasti.

Osa tiedosta pysyy väistämättä salaisena. Singapore on kertonut jakavansa valikoidusti turvaluokiteltua uhkatiedustelua kriittisen tietoinfrastruktuurin omistajille ja tarjoavansa heille myös puolustustyökaluja. Organisaatioiden on siksi toimittava CSA:n varoitusten perusteella ja hyödynnettävä puhdistettua, jaettavissa olevaa tiedustelutietoa silloin, kun yksityiskohtaisia lähteitä ei voida paljastaa.

Kansalliset harjoitukset ovat osa samaa mallia. Critical Infrastructure Defence Exercise -harjoituksessa on käytetty tekoälypohjaisia hyökkäyssimulaatioita 11 kriittisellä sektorilla yhdessä alan kumppaneiden kanssa, jotta kansallinen kyky kestää hyökkäyksiä ja toimia koordinoidusti vahvistuisi.

Mitä tästä kannattaa päätellä?

Frontier-tekoäly ei korvaa kyberturvallisuuden perusasioita – se tekee niiden laiminlyönnistä kalliimpaa. Singaporen lähiajan puolustus rakentuu nopeista päivityksistä, monivaiheisesta tunnistautumisesta, vähimpien tarvittavien oikeuksien periaatteesta, jatkuvasta valvonnasta, hyökkäyksiä jäljittelevästä testaamisesta, turvallisesti käyttöön otetusta tekoälystä ja nopeasta tiedonvaihdosta.

Etulyöntiasema on niillä organisaatioilla, jotka löytävät omat heikkoutensa ennen kuin automatisoitu hyökkääjä löytää ne.