AnswersPublished17 sources
Nvidia sätter Groq 3 LPX i full produktion för snabbare AI-inferens
Nvidia meddelade vid Hot Chips den 24 augusti att Groq 3 LPX är i full produktion som en lågfördröjningsaccelerator för AI inferens. LPX är byggd för snabb och förutsägbar generering av nästa token i agentbaserad AI, medan Vera Rubin NVL72 hanterar bredare tränings och inferensarbete.
Publicerad avBilder genererade med GPT Image 1.5
Research answer
Key takeaways
- Nvidia meddelade vid Hot Chips den 24 augusti att Groq 3 LPX är i full produktion som en lågfördröjningsaccelerator för AI inferens.
- LPX är byggd för snabb och förutsägbar generering av nästa token i agentbaserad AI, medan Vera Rubin NVL72 hanterar bredare tränings och inferensarbete.
- I ett Artificial Analysis test nådde systemet 3 431 genererade token per sekund med Gemma 4 31B och en kontext på 100 000 token.
- Nvidia hävdar att LPX ger fyra gånger snabbare respons än den närmaste alternativa plattformen för den här typen av långa och fördröjningskänsliga arbetslaster.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full production launch of its Groq 3 LPX dedicated AI inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack scale accelerator had entered full production as the low latency, long context inference component of the Vera Rubin platform.. Topic tags: general web, openai, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnai
Nvidia meddelade vid konferensen Hot Chips den 24 augusti att Groq 3 LPX har gått in i full produktion. Den rackbaserade acceleratorn blir en specialiserad del av Vera Rubin-plattformen, med fokus på låg fördröjning och snabb generering av svar i agentbaserade AI-system. 3
6
Vad är Groq 3 LPX?
LPX är inte tänkt att ersätta Nvidias GPU:er. I stället kompletterar den Vera Rubin NVL72 genom att ta hand om den del av AI-inferensen där modellen genererar svaret, token för token.
Det innebär att Rubin-systemen kan hantera bland annat träning, inläsning av långa kontexter och mer allmänna inferensuppgifter, medan LPX optimeras för att snabbt och förutsägbart producera nästa token. Det är särskilt viktigt i AI-agenter som behöver svara interaktivt och ofta utföra flera steg efter varandra. 3
6
Nvidia beskriver Groq 3 LPX som den sjunde större komponenten i Vera Rubin-plattformen. Plattformen innehåller bland annat Vera-processorn, som har 88 specialdesignade Olympus-kärnor. 2
3 431 token per sekund i test
I ett Artificial Analysis-test kördes Googles öppna modell Gemma 4 31B med en kontext på 100 000 token. Ett Nvidia-hostat Groq 3 LPX-system nådde då 3 431 genererade token per sekund. Nvidia presenterade resultatet avrundat som 3 400 token per sekund. 1
6
Nvidia hävdar att detta motsvarar fyra gånger snabbare respons än den närmaste alternativa plattformen för långa kontexter och andra arbetslaster där svarstid är avgörande. 6
Siffran beskriver framför allt hastigheten i modellens utmatning – alltså hur snabbt det synliga svaret kan börja och fortsätta komma – snarare än systemets totala prestanda i alla typer av AI-arbete.
Nebius och Groq blir tidiga användare
Nebius blir den första AI-molnleverantören som har meddelat att företaget ska använda Groq 3 LPX. Planen är att integrera acceleratorn i Nebius Token Factory, företagets plattform för produktionsinferens. 6
Groq har samtidigt uppgett att företaget själv blir en av de första användarna. LPX ska distribueras tillsammans med Vera Rubin NVL72 i Groqs specialbyggda AI-inferensmoln. 4
Nvidias strategi är därmed att bygga mer arbetslastoptimerade AI-datacenter: GPU:er och Rubin-system för flexibel och storskalig beräkning, samt LPX för den interaktiva token-generering som i praktiken avgör hur snabbt en AI-agent upplevs svara. 3
6
Handlade Nvidia verkligen upp Groq för 20 miljarder dollar?
Inte enligt den tillgängliga rapporteringen. Beskrivningen av en fullständig uppköpsaffär är missvisande. Nvidia ska i stället ha tecknat ett avtal om att licensiera Groqs teknik och anställt grundaren Jonathan Ross, presidenten Sunny Madra samt andra nyckelpersoner. Groq har fortsatt sin verksamhet och senare tagit in nytt kapital. 5
Det innebär att Groq 3 LPX bygger på Groq-teknik, men att källorna inte stöder påståendet att Nvidia köpte hela Groq som bolag.
Vad är fortfarande oklart?
Det tillgängliga underlaget styrker inte flera mer detaljerade hårdvaruuppgifter som har cirkulerat, bland annat påståenden om 256 chip per rack, 500 megabyte SRAM på varje chip eller specifika jämförelser mellan Samsungs och TSMC:s tillverkning. Det finns inte heller tillräckligt stöd för påstådda reaktioner från AMD och Cerebras eller för ett särskilt 750-token-per-sekund-läge hos OpenAI.
Källorna stöder att SpaceXAI planerar att använda Vera-processorer för agentbaserade AI-tillämpningar, men de fastställer inte de mer detaljerade uppgifterna om verktygskörning, simuleringar mellan satelliter eller exakt omfattning och tidpunkt för en sådan utbyggnad. 7
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nvidia sätter Groq 3 LPX i full produktion för snabbare AI-inferens"?
Nvidia meddelade vid Hot Chips den 24 augusti att Groq 3 LPX är i full produktion som en lågfördröjningsaccelerator för AI inferens.
What are the key points to validate first?
Nvidia meddelade vid Hot Chips den 24 augusti att Groq 3 LPX är i full produktion som en lågfördröjningsaccelerator för AI inferens. LPX är byggd för snabb och förutsägbar generering av nästa token i agentbaserad AI, medan Vera Rubin NVL72 hanterar bredare tränings och inferensarbete.
What should I do next in practice?
I ett Artificial Analysis test nådde systemet 3 431 genererade token per sekund med Gemma 4 31B och en kontext på 100 000 token.
Sources
developer.nvidia.comInside NVIDIA Groq 3 LPX: The Low-Latency Inference ...
blogs.nvidia.comNVIDIA Advances Vera Rubin Inference With New LPX and ...