AnswersPublished22 sources
Nvidia sätter Groq 3 LPX i full produktion för snabbare AI-svar
Nvidia meddelade den 24 augusti att Groq 3 LPX gått in i full produktion. I ett Artificial Analysis test genererade den 3 400 utgående token per sekund med Googles öppna modell Gemma 4 31B och en kontext på 100 000 to...
Publicerad avRedigerad med GPT-5.6 LunaBilder genererade med GPT Image 1.5
Research answer
Key takeaways
- Nvidia meddelade den 24 augusti att Groq 3 LPX gått in i full produktion. I ett Artificial Analysis test genererade den 3 400 utgående token per sekund med Googles öppna modell Gemma 4 31B och en kontext på 100 000 to...
- LPX ska inte ersätta Nvidias GPU:er. Den är i stället en specialiserad accelerator för decode fasen, där AI modellen genererar svaret token för token.
- Nebius blir den första offentliggjorda AI molnkunden och planerar att integrera LPX i plattformen Token Factory före slutet av 2026.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full-production launch of its Groq 3 LPX dedicated AI-inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack-scale accelerator had entered full production as the low-latency, long-context inference component of the Vera Rubin platform. It is intended for rapid token gen. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Nvidia har meddelat att den rackbaserade inferensacceleratorn Groq 3 LPX nu är i full produktion. Beskedet kom den 24 augusti under Hot Chips och markerar den hittills tydligaste produktlanseringen efter bolagets stora Groq-satsning. 26
LPX är utvecklad för AI-system där snabb respons är avgörande – exempelvis AI-agenter, kodassistenter och tjänster som arbetar med mycket långa kontexter. Den är konstruerad för att arbeta tillsammans med Nvidia Vera Rubin NVL72, inte för att ersätta den mer flexibla GPU-plattformen. 19
34
3 400 token per sekund i ett långkontexttest
I ett Artificial Analysis-test genererade Groq 3 LPX en median på 3 431 utgående token per sekund när Googles öppna modell Gemma 4 31B kördes med en kontext på 100 000 token. Nvidia avrundade resultatet till 3 400 token per sekund i sitt eget tillkännagivande. 17
Nvidia uppger att resultatet var fyra gånger snabbare än den närmaste alternativa plattformen i den aktuella testmiljön. 35
Det är dock viktigt att läsa siffran i rätt sammanhang. Det handlar om ett specifikt test med en viss modell, kontextlängd och konfiguration – inte om ett generellt mått på AI-prestanda. I praktiska system påverkas upplevelsen även av modellens storlek, samtidiga användare, minne, nätverk och tiden det tar att läsa in den första kontexten.
Vad LPX faktiskt gör
AI-inferens brukar förenklat delas upp i två steg: prefill och decode.
Prefill innebär att systemet bearbetar användarens fråga och den tillhörande kontexten. Under decode genererar modellen själva svaret, en token i taget. Det är framför allt den senare fasen som LPX ska göra snabbare och mer förutsägbar. 34
Vera Rubin NVL72 behåller samtidigt rollen som den bredare plattformen för träning, generell inferens, bearbetning av långa kontexter och arbetslaster med hög genomströmning. 34
Nvidias strategi är därför att dela upp arbetet mellan olika typer av beräkningsenheter: GPU:er för flexibel och storskalig beräkning, CPU:er för samordning runt AI-modellen och LPX för den del av svarsgenereringen där varje millisekund påverkar hur snabbt en interaktiv tjänst känns.
Första kunderna: Nebius och Groq
Nebius är den första offentliggjorda AI-molnleverantören som ska ta Groq 3 LPX i bruk. Bolaget planerar att integrera acceleratorn i Token Factory, sin plattform för produktionsinferens, före slutet av 2026. 2
Groq har samtidigt uppgett att företaget blir en av de första användarna. LPX ska installeras tillsammans med Vera Rubin NVL72 i Groqs specialbyggda moln för AI-inferens. Tanken är att Rubin-systemen ska stå för den bredare beräkningskapaciteten, medan LPX ökar hastigheten på token-genereringen i arbetslaster med stora kontexter. 18
En ny del av Vera Rubin-plattformen
Nvidia beskriver Groq 3 LPX som den sjunde större komponenten i Vera Rubin-plattformen. En annan central del är Vera CPU, som enligt Nvidia har 88 specialdesignade Olympus-kärnor. 33
Vera CPU är avsedd för arbete runt själva modellkörningen, som orkestrering, databehandling, användning av verktyg och kodexekvering. Nvidia har också meddelat att SpaceXAI planerar att använda Vera CPU för nästa generations AI-agenter och ett optimerat Vera Rubin NVL72-system för en första Starmind AI-satellit. 40
Tillsammans visar lanseringarna hur Nvidia vill bygga så kallade AI-fabriker av specialiserade komponenter, i stället för att behandla varje arbetslast som ett rent GPU-problem.
Var det en uppköpsaffär för 20 miljarder dollar?
Nvidias Groq-affär från december 2025 beskrivs ofta som ett köp för 20 miljarder dollar, men en sådan formulering förenklar vad som faktiskt hände. Tillgänglig rapportering beskriver ett icke-exklusivt licensavtal för Groqs inferensteknik, kombinerat med att Nvidia rekryterade Groqs grundare och vd Jonathan Ross, presidenten Sunny Madra och andra nyckelmedarbetare. 4
8
Groq fortsatte att verka som ett självständigt bolag efter avtalet och tog senare in ytterligare finansiering. Det talar för en teknik- och talangaffär snarare än ett fullständigt övertagande av hela företaget. 3
Strukturen förklarar också produktens positionering: Nvidia har byggt in Groq-teknik i sin egen plattform, medan Groq fortsätter sin verksamhet och planerar att använda den nya Nvidia-hårdvaran i sitt moln.
Det strategiska beskedet
Det viktiga med lanseringen är inte bara att Nvidia har tagit fram ännu en AI-accelerator. Snarare handlar det om att bolaget delar upp AI-tjänstens olika steg och ger den mest fördröjningskänsliga delen till en särskild processor.
För interaktiva AI-agenter kan snabbare decode göra att flerledade uppgifter känns betydligt mer följsamma. Testresultatet på 3 400 token per sekund är samtidigt ett resultat från en specifik långkontextmiljö. Den verkliga prövningen blir därför hur stora vinster LPX ger i molntjänster när Nebius och Groq börjar använda systemet i produktion.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nvidia sätter Groq 3 LPX i full produktion för snabbare AI-svar"?
Nvidia meddelade den 24 augusti att Groq 3 LPX gått in i full produktion. I ett Artificial Analysis test genererade den 3 400 utgående token per sekund med Googles öppna modell Gemma 4 31B och en kontext på 100 000 to...
What are the key points to validate first?
Nvidia meddelade den 24 augusti att Groq 3 LPX gått in i full produktion. I ett Artificial Analysis test genererade den 3 400 utgående token per sekund med Googles öppna modell Gemma 4 31B och en kontext på 100 000 to... LPX ska inte ersätta Nvidias GPU:er. Den är i stället en specialiserad accelerator för decode fasen, där AI modellen genererar svaret token för token.
What should I do next in practice?
Nebius blir den första offentliggjorda AI molnkunden och planerar att integrera LPX i plattformen Token Factory före slutet av 2026.