Hvorfor kinesiske AI-virksomheder får hver eneste Nvidia-GPU til at række længere

Derfor kan en stigning i det samlede tokenforbrug skjule en endnu større mangel på avanceret inferens. Markedet kan producere flere tokens samlet set, samtidig med at der mangler hardware til pålidelige svar på komplekse opgaver. Investeringer i kapacitet til tokens af høj kvalitet og i systemer, der kombinerer forskellige typer datakraft, afspejler netop denne forskel.

Efterspørgslen er vokset hurtigere end kapaciteten

Kinas gennemsnitlige daglige antal tokenkald oversteg 140 billioner i marts 2026. I begyndelsen af 2024 lå tallet på omkring 100 milliarder – en stigning på mere end 1.000 gange ifølge tal, der er rapporteret fra Kinas nationale dataforvaltning.

Udviklingen viser, at AI er på vej ud over eksperimenter og enkeltstående prompts. Modellerne indgår nu i assistenter, virksomhedssoftware og agenter, der udfører konkrete arbejdsgange. Inferens er dermed blevet en væsentlig drivkraft for forbruget af datakraft i stedet for blot at være et sekundært trin efter træningen.

Hvorfor softwareoptimering er det hurtigste greb

Det er vanskeligt hurtigt at tilføje avancerede processorer, når eksportkontrol begrænser adgangen til Nvidias mest avancerede produkter, udbuddet er begrænset, og hardwareøkosystemer er dyre at udskifte. Kinesiske AI-udviklere står desuden med betydelige omstillingsomkostninger, fordi eksisterende modeller, værktøjer og arbejdsgange er tæt knyttet til etablerede softwareplatforme.

Softwareoptimering kan ikke skabe nye chips, men den kan øge mængden af nyttigt arbejde fra hver tilgængelig processor. De praktiske greb omfatter blandt andet:

• Fordeling af arbejdsbelastning: Enklere forespørgsler sendes til billigere eller indenlandske acceleratorer, mens Nvidia-GPU'er reserveres til komplekse opgaver.
• Mere effektiv betjening: Forespørgsler grupperes og planlægges bedre, så hardwaren bruger mindre tid på tomgang.
• Ressourcebevidst drift: Modelstørrelse, kontekstlængde og svarstrategi tilpasses værdien og sværhedsgraden af den enkelte forespørgsel.
• Heterogen infrastruktur: Forskellige chiparkitekturer integreres, så alle arbejdsbelastninger ikke behøver at køre på én og samme platform.

Tiltagene fungerer som en bro mellem stigende efterspørgsel og begrænset udbud. De er ikke en fuld erstatning for avanceret hardware, især ikke når kvalitetsfølsomme opgaver fortsat afhænger af en smallere gruppe processorer.

Det kommercielle pres

Manglen er sværere at løse, fordi priserne på inferens samtidig er under pres. Analytikere fra Jefferies vurderede, at kinesiske modeller i gennemsnit koster omkring en sjettedel så meget pr. token som tjenester fra store amerikanske virksomheder.

Lave priser kan sætte fart på udbredelsen, men de begrænser også den indtjening, der kan finansiere den knappe avancerede datakraft. Samtidig kan kodeassistenter og agentbaserede produkter bruge langt flere ressourcer end enkel chat. Kinesiske AI-virksomheder står derfor i et vanskeligt krydspres: Efterspørgslen vokser hurtigt, kunderne forventer billig adgang, og den mest kapable inferenskapacitet kan hverken udvides eller erstattes let.

Presset har allerede vist sig i tjenesternes tilgængelighed. En markedsrapport beskrev, hvordan store kinesiske modeludviklere og cloududbydere har droslet tjenester ned, begrænset adgangen eller hævet priserne, fordi efterspørgslen oversteg de tilgængelige computerressourcer – især for ressourcekrævende kodeassistenter.

Den større betydning

Kinas udfordring på AI-infrastrukturområdet handler ikke blot om mangel på chips. Det handler om mangel på den rigtige kombination af avancerede processorer, kompatibel software og økonomisk bæredygtig kapacitet til inferens af høj værdi.

Indenlandsk hardware kan overtage en større del af arbejdet, efterhånden som softwaren forbedres, og tjenesterne designes efter de lokale chips' styrker. De nuværende tegn peger dog på en overgangsstrategi: Optimer hvert lag af inferensen, brug kinesiske chips dér, hvor de fungerer bedst, og gem den knappe Nvidia-kapacitet til de vanskeligste opgaver.

Det kan få de eksisterende ressourcer til at række længere. Men hvis agentbaseret AI skal fortsætte med at vokse, vil det i sidste ende afhænge af, om Kina kan udvide både udbuddet af hardware og det softwareøkosystem, der gør forskellige processorer praktisk anvendelige.