Z.ai:n GLM-5.3 on Kiinan vastaus Project Glasswingille

Tapaus korosti kahta asiaa. Ensinnäkin tehokkaalle tekoälyavusteiselle häiriötilanteiden tutkinnalle on todellinen tarve. Toiseksi liian tiukat kyberturvarajoitukset yhdysvaltalaisissa palveluissa voivat avata kiinalaisille toimijoille kaupallisen ja strategisen mahdollisuuden.

GLM-5.3:n tulokset ovat vahvoja – mutta eivät yksiselitteisiä

Z.ai kertoo GLM-5.3:n menestyneen erityisesti ohjelmistojen haavoittuvuuksien löytämisessä. Yhtiön ilmoittamissa CyberGym-tuloksissa malli sai 84,5 prosentin tuloksen, kun Anthropic-yhtiön rajoitettu Mythos 5 sai 83,8 prosenttia. CyberGym arvioi muun muassa sitä, osaako malli tarkastella lähdekoodia, tunnistaa tietoturva-aukon ja varmistaa, että aukko on todellinen.

Vertailu on kuitenkin syytä pitää oikeissa mittasuhteissa. Tulokset ovat Z.ai:n raportoimia sisäisiä vertailuja, eivät riippumattoman tahon vahvistama osoitus mallien samanarvoisuudesta. Lisäksi GLM-5.3:n vahvuus oli haavoittuvuuksien havaitsemisessa, ei niiden muuttamisessa toimiviksi hyökkäyksiksi. Reutersin mukaan Z.ai:n malli jäi tässä tehtävässä Anthropicista jälkeen.

Avoimet painot ovat kaksiteräinen miekka

Avoimilla mallipainoilla tarkoitetaan mallin parametreja, jotka voidaan ladata ja ajaa omalla laitteistolla tai omassa palveluympäristössä. Ne voivat pienentää tehokkaan tekoälyn käytön kustannuksia ja helpottaa riippumatonta kehitystyötä.

Sama ominaisuus voi kuitenkin hyödyttää myös hyökkääjiä. Ladattava malli saattaa vähentää haavoittuvuuksien etsimiseen ja hyökkäyksen osittaiseen automatisointiin tarvittavaa aikaa, osaamista ja rahaa. Tästä syystä Z.ai lykkäsi GLM-5.3:n painojen julkistamista noin kahdella viikolla turvallisuusarviointeja ja suojausten vahvistamista varten, vaikka yhtiö edelleen suunnittelee avointa julkaisua.

Z.ai:n kompromissi: avoin perusmalli, rajatut riskitoiminnot

Yhtiö on ehdottanut mallia, jossa käyttöä valvotaan useassa kerroksessa. Riskinarvioinnit ja tehostettu seuranta pyrkivät estämään korkean riskin kyberturvapyyntöjä, mutta tavallinen ohjelmointi ja puolustava tietoturvatyö pidetään saatavilla.

Arkaluonteisimmat hyökkäyksiin liittyvät ominaisuudet olisi tarkoitus rajata Cybersecurity Trusted Access -ohjelmaan. Siinä pääsy annetaan varmennetuille käyttäjille eikä toimintoja sisällytetä rajoittamattomaan yleiskäyttöön.

Tämä poikkeaa lähestymistavasta, jossa kehittyneitä kyberturvamalleja tarjotaan vain pienelle joukolle ennalta hyväksyttyjä kumppaneita. Z.ai yrittää tehdä avoimuudesta puolustuksen skaalautumisen välineen: mitä useampi kehittäjä voi tarkastaa koodia ja korjata puutteita, sitä laajemmaksi mahdollinen hyöty kasvaa.

Ratkaiseva testi alkaa vasta painojen julkaisusta

Z.ai:n lähestymistavan suurin avoin kysymys liittyy siihen, kuinka hyvin kontrollit toimivat sen jälkeen, kun mallipainot ovat julkisesti ladattavissa.

API-palvelussa yhtiö voi estää tietyn pyynnön, tarkistaa käyttäjän ja seurata käyttöä. Itsenäisesti asennetun avoimen mallikopion kohdalla samaa valvontaa on huomattavasti vaikeampi toteuttaa. Siksi Shield of Open Source ei ole vain uusi tuotejulkaisu, vaan myös testi Kiinan laajemmalle linjalle: voiko avoimuus olla kyberturvassa ensisijaisesti puolustuksen voimavara ilman, että se samalla tekee väärinkäytöksistä liian helppoja?