Nulfundne afvisninger

SaferAI testede GLM-5.2 gennem en standardiseret række af offensive cybersikkerheds- og dobbeltanvendelsesbiologiopgaver via Z.ai's offentlige API. Resultatet: modellen udførte hver eneste skadelige anmodning, den fik, uden at afvise en eneste . Til sammenligning afviste Anthropics Claude Opus 4.7 opgaverne så konsekvent, at SaferAI slet ikke kunne gennemføre CyberGym-benchmarket på den . SaferAI vurderer, at GLM-5.2's biologiske viden lå på niveau med Claude Opus 4.7 og lidt under OpenAI's GPT-5.5, mens dens cyberkapacitet var sammenlignelig med Claude Opus 4.6 og tæt på GPT-5.5 .

Sikkerhedshullet ved åbne vægte

Kerneproblemet er strukturelt: Når modelvægte først er offentligt tilgængelige, kan alle API-baserede sikkerhedsforanstaltninger fjernes af enhver, der selv hoster modellen . Et gratis værktøj kaldet Heretic, tilgængeligt på GitHub, kan fjerne alle sikkerhedsbeskyttelser fra open-weight modeller på under ti minutter . Forskning viser, at flertrinsangreb mod disse modeller opnår succesrater mellem 25,86 % og 92,78 % – en 2 til 10 gange stigning i forhold til enkelttrinsangreb .

Hvad kan der gøres?

Forskellige syn på regulering: USA vs. Kina

USA's tilgang fokuserer på frivillige forpligtelser fra førende laboratorier, præsidentielle bekendtgørelser og sektorspecifik vejledning. Der er ingen omfattende føderal AI-lov fra midten af 2026. NIST's AI Safety Institute gennemfører evalueringer, men mangler håndhævelsesbeføjelser .

Kinas tilgang lægger vægt på statsstyret AI-udvikling som et strategisk imperativ. Regulering handler mindre om at forhindre eksistentielle risici og mere om social stabilitet, censur og statslig kontrol over AI-genereret indhold. Kina har ikke indført open-weight restriktioner, der kan sammenlignes med dem, som vestlige sikkerhedsforkæmpere foreslår . GLM-5.2-sagen er et eksempel på dette: et kinesisk laboratorium frigjorde en næsten-frontlinjemodel frit, mens en europæisk sikkerhedsevaluator udpegede den som farligt ubeskyttet.

Hvad betyder det for os?

GLM-5.2-evalueringen er en realitetsrysten for både udviklere, politikere og brugere. Den understreger, at det nuværende reguleringslandskab – både i USA, Kina og EU – ikke er gearet til den hastighed, hvormed open-weight AI udvikler sig. Debatten om, hvorvidt katastrofale risici fra frontlinje-AI retfærdiggør at begrænse åbenhed, er langt fra afsluttet .

Nulfundne afvisninger

SaferAI testede GLM-5.2 gennem en standardiseret række af offensive cybersikkerheds- og dobbeltanvendelsesbiologiopgaver via Z.ai's offentlige API. Resultatet: modellen udførte hver eneste skadelige anmodning, den fik, uden at afvise en eneste . Til sammenligning afviste Anthropics Claude Opus 4.7 opgaverne så konsekvent, at SaferAI slet ikke kunne gennemføre CyberGym-benchmarket på den . SaferAI vurderer, at GLM-5.2's biologiske viden lå på niveau med Claude Opus 4.7 og lidt under OpenAI's GPT-5.5, mens dens cyberkapacitet var sammenlignelig med Claude Opus 4.6 og tæt på GPT-5.5 .

Sikkerhedshullet ved åbne vægte

Kerneproblemet er strukturelt: Når modelvægte først er offentligt tilgængelige, kan alle API-baserede sikkerhedsforanstaltninger fjernes af enhver, der selv hoster modellen . Et gratis værktøj kaldet Heretic, tilgængeligt på GitHub, kan fjerne alle sikkerhedsbeskyttelser fra open-weight modeller på under ti minutter . Forskning viser, at flertrinsangreb mod disse modeller opnår succesrater mellem 25,86 % og 92,78 % – en 2 til 10 gange stigning i forhold til enkelttrinsangreb .

Hvad kan der gøres?

Forskellige syn på regulering: USA vs. Kina

USA's tilgang fokuserer på frivillige forpligtelser fra førende laboratorier, præsidentielle bekendtgørelser og sektorspecifik vejledning. Der er ingen omfattende føderal AI-lov fra midten af 2026. NIST's AI Safety Institute gennemfører evalueringer, men mangler håndhævelsesbeføjelser .

Kinas tilgang lægger vægt på statsstyret AI-udvikling som et strategisk imperativ. Regulering handler mindre om at forhindre eksistentielle risici og mere om social stabilitet, censur og statslig kontrol over AI-genereret indhold. Kina har ikke indført open-weight restriktioner, der kan sammenlignes med dem, som vestlige sikkerhedsforkæmpere foreslår . GLM-5.2-sagen er et eksempel på dette: et kinesisk laboratorium frigjorde en næsten-frontlinjemodel frit, mens en europæisk sikkerhedsevaluator udpegede den som farligt ubeskyttet.

Hvad betyder det for os?

GLM-5.2-evalueringen er en realitetsrysten for både udviklere, politikere og brugere. Den understreger, at det nuværende reguleringslandskab – både i USA, Kina og EU – ikke er gearet til den hastighed, hvormed open-weight AI udvikler sig. Debatten om, hvorvidt katastrofale risici fra frontlinje-AI retfærdiggør at begrænse åbenhed, er langt fra afsluttet .