Tekoäly siirtää kyberhyökkäyksiä avustamisesta kohti agenttimaista automaatiota

Tärkein yhteinen havainto ei ole se, että tekoäly olisi keksinyt kokonaan uudenlaisia kybermurtoja. Se tekee pikemminkin tutuista menetelmistä – tiedustelusta, huijausviesteistä, tunnusten varastamisesta, koodin muokkauksesta ja infrastruktuurin ylläpidosta – nopeammin toistettavia, mukautuvia ja laajennettavia työnkulkuja. Malli voi auttaa suunnittelemaan, tuottamaan, testaamaan, korjaamaan ja skaalaamaan hyökkäystä niin, että asiantuntijatyötä ja käsin tehtävää ohjausta tarvitaan vähemmän. Vahvin näyttö koskee siis tuttujen operaatioiden tehostumista ja koordinointia, ei täysin ilman merkittävää ihmisen ohjausta toimivia hyökkäysjärjestelmiä. 107

Avustajasta osaksi hyökkäysketjua

Googlen uhkatiedustelun kuvaama muutos on siirtymä yksittäisistä kehotteista integroituun, agenttimaiseen työnkulkuun. Tällaisessa työnkulussa tekoäly voi hoitaa useita toisiinsa liittyviä tehtäviä, kuten haavoittuvuuksien kartoitusta, tunnusten keruuta, ongelmanratkaisua ja infrastruktuurin IP-osoitteiden kierrätystä. Se voi tiivistää hyökkäyksen valmistelun ja toteutuksen nopeaksi iterointiputkeksi, johon aiemmin olisi tarvittu useita työkaluja ja tekijöitä. 11

Microsoftin mukaan haitallinen tekoälyn käyttö painottui silti yhä tekstin, koodin ja median tuottamiseen. Malleja on käytetty esimerkiksi tietojenkalastelusyöttien kirjoittamiseen ja kääntämiseen, varastetun aineiston tiivistämiseen, haittaohjelmien ja skriptien tuottamiseen tai virheenkorjaukseen sekä hyökkäysinfrastruktuurin rakentamisen tukena. Tämä ei sellaisenaan tarkoita, että malli suorittaisi koko murtautumisen itsenäisesti. 10

Valtiokytkökset ja rikollisryhmät näkyvät tapausesimerkeissä

Anthropic kertoi häirinneensä toimintoja, joissa Claudea yritettiin käyttää kyberoperaatioissa, vaikuttamisessa, valvonnassa, huijauksissa, biologiseen tai tavanomaiseen asekehitykseen liittyvässä työssä sekä mallien ominaisuuksien kopioinnissa. Tapauksiin liittyi yrityksen mukaan Venäjä-, Kiina- ja Iran-kytköksiä sekä taloudellisesti motivoituneita ryhmiä. Reutersin mukaan yksi tapauksista koski Venäjä-kytköksistä operaatiota, jonka kohteena oli Ukrainan viranomaisia; Anthropic esitti myös väitteitä kiinalaisten tekoäly-yhtiöiden Claudeen kohdistuneesta väärinkäytöstä. Kyse on yhtiöiden omista attribuutioista ja tapaustutkimuksista, ei koko uhkatilanteen kattavasta mittauksesta. 717

ShinyHuntersiin, Helixiin ja muihin kiristysryhmiin kytkettyjen toimijoiden kampanjoissa nähtiin puolestaan passkey- ja kertakirjautumisteemoilla (SSO) toteutettua sosiaalista manipulointia Microsoft 365 -yritystilejä vastaan. Kuvattu toimintamalli oli perinteinen: ensin tehdään tiedustelua, sitten esiinnytään IT-tukena, hankitaan pääsy tileille ja anastetaan pilvipalveludataa. Tekoäly voi parantaa kohdennusta ja lisätä uskottavien houkutinten määrää, mutta tapaus ei osoita tekoälyn suorittaneen koko tunkeutumista itsenäisesti. 3

Todellinen riski on nopea palautejärjestelmä

Agenttimainen käyttö on merkittävää erityisesti siksi, että se lyhentää kokeilu- ja korjaussykliä. Hyökkääjä voi muokata tai rakentaa koodia uudelleen, jos tietoturvatuote tunnistaa sen, käyttää varastettuja tunnuksia tai API-avaimia laskentaresurssina ja kokeilla seuraavaa versiota nopeasti. Olennaista ei ole yksi haitallinen kehote, vaan silmukka: luo, testaa, korjaa ja ota käyttöön. 87

Sama talouslogiikka koskee laajamittaista identiteetin ja brändin jäljittelyä. Uskottavan näköisiä tukisivuja, tietojenkalasteluviestejä, keskusteluskenaarioita, ääni- tai kuvajäljitelmiä sekä kieliversioita voidaan tuottaa ja muokata aiempaa halvemmalla. Puolustajien on siksi erotettava yhä yksilöllisempi ja vaihtelevampi haitallinen sisältö aidosta viestinnästä; pelkkiin tunnettuihin viestipohjiin tai kömpelöön kieliasuun perustuvat suodattimet heikkenevät. Microsoft havaitsi nimenomaan tietojenkalasteluhoukuttimien tuottamista ja käännösten tekemistä tekoälyn avulla. 10

Myös itse malleista on tullut kohteita

Googlen esiin nostamat mallinpoiminta- eli tislaushyökkäykset (model extraction, distillation) ovat eri tyyppinen uhka kuin tavallinen verkkorikollisuus. Niissä toimija käyttää palvelun normaalia käyttöliittymää tai API-yhteyttä järjestelmällisesti saadakseen tietoa mallin kyvykkyyksistä, päättelystä ja suojauksista – mahdollisesti oman mallinsa kouluttamiseksi. Google luonnehti ilmiötä immateriaalioikeuksien ja kyvykkyyksien suojaamisen ongelmaksi. 11

Julkisuudessa on kuvattu myös koordinoituja kampanjoita, joissa kyselymäärät ovat ylittäneet 100 miljoonaa. Luku kuvaa sitä, miten automatisoiduksi ja teollisen mittakaavan toiminta voi muuttua: tarkoituksena on koetella mallia valtavalla määrällä kyselyitä, ei välttämättä murtautua perinteiseen tietojärjestelmään. Palveluntarjoajat pyrkivät tunnistamaan tällaisen poikkeavan kyselytoiminnan ja suojaamaan malliensa ominaisuuksia sekä turvarajoja. 1311

Puolustajan kustannusasema heikkenee

Tekoäly pienentää tekstien kirjoittamisen, lokalisaation, taustatutkimuksen, koodiavun ja iteratiivisen huijauksen yksikkökustannuksia. Tämä voi antaa vähäresurssisille rikollisille ja hakkeriaktivisteille osan sellaisesta kapasiteetista, joka aiemmin edellytti suurempaa organisaatiota. Puolustajalle haaste on nopeuden ja volyymin epäsymmetria: haitalliset viestit ja tekniset variaatiot voidaan tehdä kohdennetuiksi ja vaihtaa usein. Se ei kuitenkaan tarkoita, että jokainen tekoälyavusteinen hyökkäys onnistuisi. 610

Laajempi vastuullisen tekoälyn kysymys ulottuu kyberrikollisuutta pidemmälle. Anthropicin raportti käsitteli myös yrityksiä käyttää malleja biologiseen ja tavanomaiseen asekehitykseen liittyvissä toimissa. Siksi keskustelu koskee tietojenkalastelun torjunnan ohella väärinkäytön valvontaa, tili- ja API-kontrolleja, käyttörajoja, mallinpoiminnan havaitsemista, tapaustiedon jakamista sekä korkean riskin käyttötarkoitusten suojauksia. 162

Keskeinen varaus: raportit dokumentoivat havaittuja ja keskeytettyjä tapauksia. Ne osoittavat kyvykkyyksiä ja kehittyviä toimintamalleja, mutta eivät yksin todista, että täysin autonomiset hyökkäykset olisivat jo kyberrikollisuuden hallitseva muoto. 7