Ox Alpha avslørt: Kjørte på over 100 000 kinesiske KI-brikker

Det Zhipu faktisk bekreftet

Den mystiske KI-modellen Ox Alpha – omtalt som «Niu Lai» i kinesiske nettmiljøer – var ikke et nytt selskap eller et ukjent forskningsprosjekt. 26. august bekreftet Zhipu AI, som også bruker merkenavnet Z.ai, at modellen var GLM-5.3-Flash. Modellen ble testet anonymt før den offisielle lanseringen og ble presentert som en åpen modell med innebygd multimodalitet og en såkalt mixture-of-experts-arkitektur. 146

Den anonyme lanseringen fikk raskt stor oppmerksomhet blant utviklere. Modellen var gratis tilgjengelig på OpenRouter og OpenCode, to plattformer som brukes til å teste og koble sammen KI-modeller. Rapporter viste over 50 billioner tokens etter fem dager, mens senere tall satte forbruket til over 60 billioner tokens på seks dager. Ox Alpha toppet brukslistene på begge plattformene og skal på det meste ha hatt mer enn dobbelt så høy bruk som sammenlignbare DeepSeek-modeller. 3

Over 100 000 kinesiske brikker

Det mest oppsiktsvekkende ved avsløringen var ikke bare modellens popularitet, men infrastrukturen bak den.

Zhipu sa at testperioden ble kjørt på et cluster med over 100 000 kinesiskproduserte KI-brikker. Etter omfattende programvareoptimalisering hevdet selskapet at maskinvareutnyttelsen og kostnaden per token var sammenlignbar med løsninger basert på vanlige NVIDIA-GPU-er. 36

Zhipu oppga imidlertid ikke hvilke brikkeprodusenter som var involvert. Huawei, Moore Threads og Hygon er nevnt som mulige leverandører i medieomtale, men dette er ubekreftet spekulasjon – ikke en bekreftelse fra Zhipu. 40

Dette er derfor ikke bevis på at Kina generelt har tatt igjen NVIDIA innen KI-maskinvare, eller at kinesiske brikker alltid gir samme kostnad som NVIDIA-maskiner. Det viser snarere at en stor, reell arbeidsbelastning for modellkjøring kan håndteres på en ikke-NVIDIA-basert plattform når maskinvare og programvare utvikles tett sammen. 36

Hvorfor dette utfordrer CUDA – men ikke avskaffer det

NVIDIA har lenge hatt en sterk posisjon gjennom CUDA, selskapets programvareplattform for KI- og GPU-beregninger. Ox Alpha-testen antyder at spesialtilpassede inferensmotorer kan redusere avhengigheten av CUDA i enkelte produksjonsmiljøer.

Det betyr likevel ikke at CUDA-fordelen er borte. NVIDIAs økosystem, utviklerbase, verktøy og posisjon innen modelltrening er langt bredere enn det denne ene utrullingen dokumenterer. Det finnes ikke tilstrekkelig grunnlag for å trekke en mer vidtrekkende konklusjon.

Zhipus SGLang-baserte motor skal ha brukt blant annet:

• W8A8-kvantisering
• en blanding av INT8-, FP8- og BF16-kvantisering for cache
• tensor-parallellitet innenfor hver node
• en EPD-modell, der encode, prefill og decode kjøres i separate og uavhengig skalerbare ressursgrupper

Teknikkene skal ha vært utviklet for å håndtere begrensninger knyttet til minne, båndbredde, kommunikasjon og planlegging ved et kontekstvindu på én million tokens. 47

Zhipu skal ha oppgitt at endringene ga rundt tre ganger bedre total ytelse enn den opprinnelige løsningen. Senere dokumentasjon fra SGLang viser også høyere gjennomstrømming og betydelig større FP8-cachekapasitet enn i en sammenlignbar BF16-konfigurasjon. Dette er likevel ikke en uavhengig revisjon av Zhipus påstand om tredoblet ytelse. 2

En stor modell som bare aktiverer en liten del om gangen

GLM-5.3-Flash har totalt 320 milliarder parametere, men aktiverer rundt 18 milliarder parametere per token. Det er kjernen i mixture-of-experts-designet: Modellen er stor på papiret, men bruker bare utvalgte deler av nettverket for hvert enkelt token. Den støtter et kontekstvindu på 1 048 576 tokens. 57

Modellen skal ha fått en score på 57 i Artificial Analysis Intelligence Index, på samme oppgitte nivå som Claude Opus 4.8. Det bør tolkes som lik score på én sammensatt indeks – ikke som dokumentasjon på identisk ytelse i alle tester eller praktiske agentoppgaver. 1

GLM-5.3-Flash ble posisjonert som en konkurrent til effektive modeller i toppsjiktet, blant annet DeepSeek V4 Flash og Pro, samtidig som Zhipu lovet langt lavere inferenskostnader. Det tilgjengelige materialet er imidlertid ikke tilstrekkelig til å kontrollere nøyaktige sammenligninger mellom modellene i hver enkelt benchmark.

Prisen kan bli det viktigste konkurransefortrinnet

Zhipus oppgitte API-pris var:

• 0,15 dollar per million input-tokens
• 0,50 dollar per million output-tokens 1

Samtidig omtale beskrev dette som omtrent en tiendedel av prisen på GLM-5.3 og rundt en førtiendedel av Claude Opus 4.8. Slike forholdstall avhenger imidlertid av hvilken tokenretning, kontekstklasse og prisplan man sammenligner. 1

Avsløringen av Ox Alpha handler derfor om mer enn navnet på en populær modell. Den viser hvordan Zhipu forsøker å kombinere en stor, åpen modell med svært lav pris og en inferensplattform bygget på kinesisk maskinvare. Det er et interessant signal om hvor mye optimalisering kan bety – men alene er det ikke nok til å fastslå at den bredere konkurransen med NVIDIA eller de ledende amerikanske modellaktørene er avgjort.