Nvidia oplyste den 24. august 2026 på Hot Chips, at rackacceleratoren Groq 3 LPX er gået i fuld produktion. LPX bliver en del af Vera Rubin-platformen og er udviklet til den del af AI-inferensen, hvor modellen genererer svarene – altså producerer de næste tokens så hurtigt og forudsigeligt som muligt.
3
6
Der blev ikke i det tilgængelige kildemateriale angivet en specifik værtsby eller konferenceadresse for annonceringen.
Hvad annoncerede Nvidia?
I en benchmark fra Artificial Analysis genererede Groq 3 LPX 3.431 outputtokens i sekundet med Googles open source-model Gemma 4 31B og en kontekst på 100.000 tokens. Nvidia rundede selv resultatet til 3.400 tokens i sekundet.
1
6
Nvidia hævder, at LPX dermed leverer fire gange hurtigere respons end den nærmeste alternative platform i denne type lange, latenstunge arbejdsbelastninger.
6
LPX skal især håndtere decode- eller genereringsfasen i inferensen. Vera Rubin NVL72 forbliver den fleksible platform til blandt andet træning, behandling af kontekst, prefill og bredere inferensopgaver.
3
6
Nvidia beskriver LPX som den syvende større chipkomponent i Vera Rubin-platformen. Vera CPU’en har 88 specialdesignede Olympus-kerner.
2
Nebius bliver den første AI-cloud, der tager Groq 3 LPX i brug og planlægger at integrere den i sin Token Factory-platform til produktionsinferens.
6
Groq har også oplyst, at virksomheden bliver blandt de første brugere og vil installere LPX sammen med Vera Rubin NVL72 i sin specialiserede AI-inferenscloud.
4
Hvorfor er hurtig token-generering vigtig?
I agentisk AI udfører modeller ofte opgaver i flere trin, eksempelvis ved at planlægge, kalde værktøjer og vurdere nye resultater. Her er det ikke kun den samlede gennemstrømning, der tæller. Brugeren mærker især, hvor hurtigt systemet begynder at levere de enkelte tokens og fortsætter med at generere et svar.
Nvidias strategi er derfor at dele arbejdet mellem specialiserede komponenter: Rubin-GPU’er og Vera Rubin-systemer skal levere den brede og fleksible AI-beregningskraft, mens LPX fokuserer på flaskehalsen for interaktive svar – hurtig og stabil token-generering.
3
6
Var Groq købt for 20 milliarder dollar?
Det er en vigtig præcisering: Det tilgængelige materiale understøtter ikke, at Nvidia gennemførte et traditionelt opkøb af hele Groq. Rapporteringen beskriver i stedet en aftale på 20 milliarder dollar om ikke-eksklusiv licensering af Groqs inferensteknologi samt ansættelse af grundlægger Jonathan Ross, præsident Sunny Madra og andre nøglemedarbejdere. Groq fortsatte efterfølgende som selvstændig virksomhed og rejste ny kapital.
5
Derfor er det mere præcist at beskrive Groq 3 LPX som en Nvidia-produktlinje baseret på licenseret Groq-teknologi og Groq-kompetencer – ikke som et produkt fra et fuldt gennemført virksomhedsopkøb.
Hvad kan ikke bekræftes?
De foreliggende kilder dokumenterer ikke tilstrækkeligt konkrete påstande om 256 chips pr. rack, 500 MB SRAM pr. chip eller forskelle mellem Samsungs og TSMC’s produktion. Det samme gælder påstande om bestemte svar fra AMD og Cerebras samt en OpenAI-tilstand på 750 tokens i sekundet.
Kilderne understøtter desuden, at SpaceXAI planlægger at anvende Vera CPU’er til agentiske AI-opgaver, men de fastslår ikke de mere detaljerede påstande om værktøjskørsel, simuleringer på satellitter eller den præcise tidsplan og rækkevidde for en sådan udrulning.
7