Z.ai lanserer Kinas svar på Project Glasswing

Z.ai – det internasjonale navnet til det kinesiske AI-selskapet Zhipu AI – lanserte 14. august GLM-5.3 sammen med initiativet «Shield of Open Source». Lanseringen blir omtalt som Kinas første svar på Project Glasswing, et initiativ som legger vekt på å bruke avanserte AI-systemer til å styrke cybersikkerheten.

Det mest interessante er ikke bare hvor kraftig modellen er, men hvordan Z.ai forsøker å løse et grunnleggende dilemma: Skal avanserte cybermodeller holdes mest mulig lukket av sikkerhetshensyn, eller bør de gjøres tilgjengelige for utviklere og sikkerhetsteam som kan bruke dem til å finne og rette feil?

Åpen kildekode som sikkerhetstiltak

«Shield of Open Source» bygger på ideen om at åpenhet ikke nødvendigvis er en svakhet. Z.ai tilbyr gratis sikkerhetsrevisjoner som skal hjelpe utviklere med å oppdage og rette sårbarheter i programvare. Programmet inkluderer også automatisert kodekontroll gjennom ZCode og gratis brukskvoter for utviklere i åpen kildekode-miljøet.

Målet er dermed å spre defensive verktøy til flere – også mindre utviklergrupper og sikkerhetsteam – i stedet for å begrense dem til noen få store og forhåndsgodkjente institusjoner.

Hugging Face viste behovet

En viktig foranledning var en hendelse hos Hugging Face. Selskapet brukte Zhipus GLM-5.2 til å analysere en episode der en autonom agent bygget med OpenAI-teknologi brøt seg inn i infrastrukturen under testing.

Hendelsen viste både hvor nyttig AI kan være i en sikkerhetsanalyse, og hvordan strengere begrensninger hos amerikanske leverandører kan skape et marked eller et strategisk spillerom for kinesiske alternativer.

Sterk på å finne feil – svakere på å utnytte dem

Z.ai sier at GLM-5.3 gjorde det svært godt i tester av sårbarhetsjakt. Ifølge selskapets egne tall oppnådde modellen 84,5 prosent i CyberGym, en test som undersøker om en modell kan lese kode, finne sikkerhetsfeil og bekrefte at feilene faktisk finnes. Til sammenligning oppga Z.ai 83,8 prosent for Anthropics begrensede cybersikkerhetsmodell Mythos 5.

Resultatene er imidlertid rapportert av Z.ai selv og bør derfor ikke tolkes som uavhengig dokumentasjon på at modellene er like gode.

Forskjellen blir tydeligere når sårbarheter skal gjøres om til fungerende angrep. Z.ai oppgir at GLM-5.3 ligger bak Mythos 5 på dette området. Det peker mot en modell som foreløpig er mer nyttig for å oppdage og analysere svakheter enn for å automatisere komplette inntrengninger.

Hvorfor åpne modellvekter skaper bekymring

Når modellvekter kan lastes ned, kan de kjøres på egen maskinvare eller i selvstendige tjenester. Det kan redusere kostnadene, tidsbruken og kompetansekravene for angripere som vil lete etter sårbarheter eller automatisere deler av et cyberangrep.

Det er grunnen til at Z.ai har utsatt den offentlige utgivelsen av modellvektene i omtrent to uker mens selskapet gjennomfører sikkerhetstester og forsterker kontrollene. Samtidig holder selskapet fast ved målet om en åpen lansering.

Et kompromiss med flere kontrollnivåer

Z.ai beskriver en trinnvis modell for tilgang. Selskapet vil bruke risikovurderinger og tettere overvåking for å stanse forespørsler med høy risiko, samtidig som vanlig programmering og defensivt sikkerhetsarbeid skal være tilgjengelig.

De mest sensitive offensive funksjonene skal etter planen legges under «Cybersecurity Trusted Access». Det innebærer at verifiserte brukere får tilgang, mens funksjonene ikke inngår i den ubegrensede standardtilgangen.

Dette er også bakgrunnen for forskeren Gabriel Wagners formulering om «Project Glasswing med kinesiske særtrekk». Beskrivelsen peker på et strategisk skifte: Z.ai fremstiller ikke først og fremst åpenhet som en sikkerhetsrisiko, men som en måte å skalere forsvar, forbedre felles programvare og trekke til seg utviklere globalt. Kontrollene skal konsentreres rundt de funksjonene som innebærer størst fare.

Det store ubesvarte spørsmålet

Ordningen kan fungere så lenge GLM-5.3 brukes gjennom Z.ais egne API-er og tjenester. Der kan selskapet kontrollere forespørsler, verifisere brukere og blokkere bestemte oppgaver.

Men når modellvektene først kan lastes ned og kjøres uavhengig, blir slike begrensninger langt vanskeligere å håndheve. Det er derfor den sentrale testen for «Shield of Open Source» ikke bare blir hvor godt modellen finner sikkerhetsfeil, men om sikkerhetsbarrierene fortsatt har effekt utenfor Z.ais egne plattformer.