Huawei zorgde voor de grootste verrassing. De combinatie van Ascend 950DT en het CANN-framework bood op de lanceringsdag eveneens volledige ondersteuning voor DeepSeek V4 Pro. Volgens de aangehaalde analyses was dit de eerste keer dat een niet-CUDA-platform op dag één hetzelfde niveau van volledige ondersteuning bereikte voor een frontiermodel van deze omvang .

Onafhankelijke metingen op de leverbare Ascend 950PR wezen bovendien op 2,87 keer zoveel FP4-rekenkracht als bij Nvidia's H20 en tot 1,96 keer hogere prestaties bij MoE-inference tijdens RL-roll-outs . De absolute prestatietop blijft wel buiten bereik door beperkingen in de chipproductie, waardoor Huawei's hardware onder Nvidia's snelste systemen blijft.

AMD: van vrijwel onbruikbaar naar levensvatbaar

AMD begon veel zwakker. De MI355X kon op dag nul alleen met FP8 draaien; het oorspronkelijke FP4+FP8-checkpoint was toen niet bruikbaar. Op een 8K/1K-werklast kwam de chip uit op slechts 20,4 tokens per seconde per GPU en 2,4 tokens per seconde per gebruiker .

Daarna volgde een uitzonderlijke software-inhaalrace. Het AMD SGLang-team, onder technische leiding van HaiShaw, voegde in 26 dagen 31 prestatie-optimalisaties toe aan de zijtak amd/deepseek_v4 . Daarmee werden verschillende onderdelen van de ROCm-stack aangepast die nog nauwelijks waren getest met een Mixture-of-Experts-model van deze schaal.

Op dag 26, 20 mei 2026, haalde de MI355X 2.256 tokens per seconde per GPU bij 9,4 tokens per seconde per gebruiker op dezelfde 8K/1K-werklast. Dat betekent een verbetering van 110,5 keer in doorvoer per GPU. Tegelijk steeg de interactiviteit met 3,85 keer .

Dat is een zeldzaam resultaat: zowel de totale capaciteit als de reactiesnelheid per gebruiker gingen omhoog. Bij vergelijkbare interactiviteit kwam de MI355X uit op ongeveer 1.411 tokens per seconde per GPU, waarmee hij in dezelfde prestatielaag terechtkwam als Nvidia's B200 bij lage interactiviteit . De chip blijft ver achter bij de GB300 NVL72, maar maakte wel de sprong van een problematische lancering naar een bruikbare inference-oplossing .

De ranglijst na 43 dagen

De kosten per miljoen tokens maken het economische verschil zichtbaar. Bij lage interactiviteit kost inference op de GB300 NVL72 ongeveer 0,064 dollar per miljoen tokens, tegenover 0,291 dollar op de MI355X — ongeveer 4,5 keer zoveel .

Bij hogere interactiviteit, met minder gelijktijdige gebruikers en een hogere snelheid per gebruiker, wordt AMD wel concurrerender tegenover de B200. In een meetpunt met ongeveer 23 tot 24 gelijktijdige gebruikers lagen beide systemen rond 1,22 tot 1,45 dollar per miljoen tokens .

De doorslaggevende innovatie zit in het model

De hardwarecijfers zijn indrukwekkend, maar zonder een efficiënter modelontwerp zouden ze economisch weinig betekenen. Bij standaard-Transformer-aandacht nemen de reken- en geheugenkosten sterk toe naarmate de context langer wordt. Een context van één miljoen tokens vormt daardoor een enorme belasting voor de KV-cache — het geheugen waarin het model eerdere sleutel- en waarde-informatie bewaart.

DeepSeek V4 combineert daarom twee nieuwe aandachtstechnieken.

Compressed Sparse Attention (CSA) werkt fijnmazig. Ongeveer vier tokens worden samengebracht in één geleerde KV-vermelding, met datagestuurde weging en overlappende vensters. Daarna selecteert het model alleen de meest relevante gecomprimeerde vermeldingen. De Lightning Indexer helpt bepalen welke blokken voor elke query belangrijk zijn . Een sliding-windowtak bewaart daarnaast de lokale precisie .

Heavily Compressed Attention (HCA) maakt een grovere samenvatting. Hierbij kunnen maximaal 128 tokens worden samengeperst tot één KV-vermelding. Het model krijgt zo een goedkoop, breed overzicht van de volledige context, al gaat dat ten koste van detail bij het terugvinden van specifieke informatie . HCA wordt vooral in vroege lagen gebruikt; in de laatste laag blijft volledige aandacht beschikbaar voor maximale precisie .

Het resultaat bij één miljoen tokens, vergeleken met DeepSeek V3.2, is aanzienlijk:

• De inference-berekening per token bedraagt nog maar 27 procent, een reductie van 73 procent .
• Het KV-cachegeheugen komt uit op ongeveer 10 procent, een reductie van circa 90 procent .
• Vergeleken met een GQA-basislijn in bfloat16 is de benodigde cache volgens DeepSeek ongeveer 2 procent van de oorspronkelijke omvang .

Bij het kleinere V4 Flash zijn de besparingen nog groter: ongeveer 10 procent van de FLOPs en 7 procent van de KV-cache ten opzichte van V3.2 .

Wat betekent dit voor de AI-industrie?

De 43 dagen aan metingen vertellen drie verhalen tegelijk.

Ten eerste blijft Nvidia's voorsprong in software en hardware groot. CUDA werkt vanaf de lancering, de belangrijkste inference-frameworks zijn direct beschikbaar en Blackwell levert de hoogste absolute doorvoer.

Ten tweede heeft Huawei een historische stap gezet in softwarematige paraatheid. Ascend en CANN konden op dag één een model van frontier-schaal ondersteunen, iets wat tot nu toe vooral met Nvidia's CUDA-ecosysteem werd geassocieerd. Dat verkleint de softwarekloof, ook al blijft de hardware zelf door productiebeperkingen achter.

Ten derde laat AMD zien dat software een bestaande chip radicaal kan veranderen. Een verbetering van 110,5 keer in 26 dagen is uitzonderlijk. Tegelijk maakt het resultaat duidelijk dat de ROCm-stack voor elk nieuw frontiermodel nog veel gespecialiseerd ontwikkelwerk kan vereisen.

De grootste doorbraak zit uiteindelijk niet bij één fabrikant, maar in de architectuur van DeepSeek zelf. Door CSA en HCA dalen het geheugengebruik en de rekenkosten zo sterk dat inference met 1,6 biljoen parameters en een context van één miljoen tokens voor het eerst commercieel haalbaar wordt op geschikte hardware. De vraag verschuift daarmee van kunnen we dit model draaien? naar wat gaan we bouwen met zulke lange contexten?

Huawei zorgde voor de grootste verrassing. De combinatie van Ascend 950DT en het CANN-framework bood op de lanceringsdag eveneens volledige ondersteuning voor DeepSeek V4 Pro. Volgens de aangehaalde analyses was dit de eerste keer dat een niet-CUDA-platform op dag één hetzelfde niveau van volledige ondersteuning bereikte voor een frontiermodel van deze omvang .

Onafhankelijke metingen op de leverbare Ascend 950PR wezen bovendien op 2,87 keer zoveel FP4-rekenkracht als bij Nvidia's H20 en tot 1,96 keer hogere prestaties bij MoE-inference tijdens RL-roll-outs . De absolute prestatietop blijft wel buiten bereik door beperkingen in de chipproductie, waardoor Huawei's hardware onder Nvidia's snelste systemen blijft.

AMD: van vrijwel onbruikbaar naar levensvatbaar

AMD begon veel zwakker. De MI355X kon op dag nul alleen met FP8 draaien; het oorspronkelijke FP4+FP8-checkpoint was toen niet bruikbaar. Op een 8K/1K-werklast kwam de chip uit op slechts 20,4 tokens per seconde per GPU en 2,4 tokens per seconde per gebruiker .

Daarna volgde een uitzonderlijke software-inhaalrace. Het AMD SGLang-team, onder technische leiding van HaiShaw, voegde in 26 dagen 31 prestatie-optimalisaties toe aan de zijtak amd/deepseek_v4 . Daarmee werden verschillende onderdelen van de ROCm-stack aangepast die nog nauwelijks waren getest met een Mixture-of-Experts-model van deze schaal.

Op dag 26, 20 mei 2026, haalde de MI355X 2.256 tokens per seconde per GPU bij 9,4 tokens per seconde per gebruiker op dezelfde 8K/1K-werklast. Dat betekent een verbetering van 110,5 keer in doorvoer per GPU. Tegelijk steeg de interactiviteit met 3,85 keer .

Dat is een zeldzaam resultaat: zowel de totale capaciteit als de reactiesnelheid per gebruiker gingen omhoog. Bij vergelijkbare interactiviteit kwam de MI355X uit op ongeveer 1.411 tokens per seconde per GPU, waarmee hij in dezelfde prestatielaag terechtkwam als Nvidia's B200 bij lage interactiviteit . De chip blijft ver achter bij de GB300 NVL72, maar maakte wel de sprong van een problematische lancering naar een bruikbare inference-oplossing .

De ranglijst na 43 dagen

De kosten per miljoen tokens maken het economische verschil zichtbaar. Bij lage interactiviteit kost inference op de GB300 NVL72 ongeveer 0,064 dollar per miljoen tokens, tegenover 0,291 dollar op de MI355X — ongeveer 4,5 keer zoveel .

Bij hogere interactiviteit, met minder gelijktijdige gebruikers en een hogere snelheid per gebruiker, wordt AMD wel concurrerender tegenover de B200. In een meetpunt met ongeveer 23 tot 24 gelijktijdige gebruikers lagen beide systemen rond 1,22 tot 1,45 dollar per miljoen tokens .

De doorslaggevende innovatie zit in het model

De hardwarecijfers zijn indrukwekkend, maar zonder een efficiënter modelontwerp zouden ze economisch weinig betekenen. Bij standaard-Transformer-aandacht nemen de reken- en geheugenkosten sterk toe naarmate de context langer wordt. Een context van één miljoen tokens vormt daardoor een enorme belasting voor de KV-cache — het geheugen waarin het model eerdere sleutel- en waarde-informatie bewaart.

DeepSeek V4 combineert daarom twee nieuwe aandachtstechnieken.

Compressed Sparse Attention (CSA) werkt fijnmazig. Ongeveer vier tokens worden samengebracht in één geleerde KV-vermelding, met datagestuurde weging en overlappende vensters. Daarna selecteert het model alleen de meest relevante gecomprimeerde vermeldingen. De Lightning Indexer helpt bepalen welke blokken voor elke query belangrijk zijn . Een sliding-windowtak bewaart daarnaast de lokale precisie .

Heavily Compressed Attention (HCA) maakt een grovere samenvatting. Hierbij kunnen maximaal 128 tokens worden samengeperst tot één KV-vermelding. Het model krijgt zo een goedkoop, breed overzicht van de volledige context, al gaat dat ten koste van detail bij het terugvinden van specifieke informatie . HCA wordt vooral in vroege lagen gebruikt; in de laatste laag blijft volledige aandacht beschikbaar voor maximale precisie .

Het resultaat bij één miljoen tokens, vergeleken met DeepSeek V3.2, is aanzienlijk:

• De inference-berekening per token bedraagt nog maar 27 procent, een reductie van 73 procent .
• Het KV-cachegeheugen komt uit op ongeveer 10 procent, een reductie van circa 90 procent .
• Vergeleken met een GQA-basislijn in bfloat16 is de benodigde cache volgens DeepSeek ongeveer 2 procent van de oorspronkelijke omvang .

Bij het kleinere V4 Flash zijn de besparingen nog groter: ongeveer 10 procent van de FLOPs en 7 procent van de KV-cache ten opzichte van V3.2 .

Wat betekent dit voor de AI-industrie?

De 43 dagen aan metingen vertellen drie verhalen tegelijk.

Ten eerste blijft Nvidia's voorsprong in software en hardware groot. CUDA werkt vanaf de lancering, de belangrijkste inference-frameworks zijn direct beschikbaar en Blackwell levert de hoogste absolute doorvoer.

Ten tweede heeft Huawei een historische stap gezet in softwarematige paraatheid. Ascend en CANN konden op dag één een model van frontier-schaal ondersteunen, iets wat tot nu toe vooral met Nvidia's CUDA-ecosysteem werd geassocieerd. Dat verkleint de softwarekloof, ook al blijft de hardware zelf door productiebeperkingen achter.

Ten derde laat AMD zien dat software een bestaande chip radicaal kan veranderen. Een verbetering van 110,5 keer in 26 dagen is uitzonderlijk. Tegelijk maakt het resultaat duidelijk dat de ROCm-stack voor elk nieuw frontiermodel nog veel gespecialiseerd ontwikkelwerk kan vereisen.

De grootste doorbraak zit uiteindelijk niet bij één fabrikant, maar in de architectuur van DeepSeek zelf. Door CSA en HCA dalen het geheugengebruik en de rekenkosten zo sterk dat inference met 1,6 biljoen parameters en een context van één miljoen tokens voor het eerst commercieel haalbaar wordt op geschikte hardware. De vraag verschuift daarmee van kunnen we dit model draaien? naar wat gaan we bouwen met zulke lange contexten?