AnswersPublished22 sources
Nvidia zet Groq 3 LPX in volledige productie voor snellere AI-antwoorden
Nvidia maakte op 24 augustus bekend dat Groq 3 LPX in volledige productie is gegaan. LPX vervangt Nvidia’s GPU’s niet, maar is een gespecialiseerde accelerator voor de decodefase van inferentie: het moment waarop een model zijn antwoord token voor token genereert.
Gepubliceerd doorBewerkt met GPT-5.6 LunaAfbeeldingen gegenereerd met GPT Image 1.5
Research answer
Key takeaways
- Nvidia maakte op 24 augustus bekend dat Groq 3 LPX in volledige productie is gegaan.
- LPX vervangt Nvidia’s GPU’s niet, maar is een gespecialiseerde accelerator voor de decodefase van inferentie: het moment waarop een model zijn antwoord token voor token genereert.
- Nebius is de eerste aangekondigde AI cloudklant en wil LPX vóór het einde van 2026 integreren in zijn productieplatform Token Factory.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full-production launch of its Groq 3 LPX dedicated AI-inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack-scale accelerator had entered full production as the low-latency, long-context inference component of the Vera Rubin platform. It is intended for rapid token gen. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Nvidia heeft op 24 augustus tijdens Hot Chips bekendgemaakt dat zijn Groq 3 LPX-rack voor AI-inferentie in volledige productie is gegaan. Het systeem is ontworpen om samen te werken met Vera Rubin NVL72 en moet vooral het genereren van AI-antwoorden versnellen — een cruciale factor voor interactieve agents, programmeerassistenten en andere toepassingen waarbij wachten snel irritant wordt. 26
In een benchmark van Artificial Analysis produceerde Groq 3 LPX 3.400 outputtokens per seconde bij het draaien van Google’s open-source model Gemma 4 31B, met een context van 100.000 tokens. Het preciezere gemeten resultaat was een mediaan van 3.431 tokens per seconde. Nvidia zegt dat LPX in deze specifieke test vier keer sneller reageerde dan het dichtstbijzijnde alternatieve platform. 17
35
Waar Groq 3 LPX voor dient
LPX richt zich op AI-inferentie met een lage latentie. Inferentie is het proces waarbij een getraind AI-model daadwerkelijk antwoorden, code of acties genereert. Nvidia positioneert de accelerator voor zogenoemde agentic AI: systemen die in meerdere stappen redeneren, tools gebruiken of code uitvoeren en daarom snel moeten reageren. 19
26
Daarbij maakt Nvidia onderscheid tussen twee fasen:
- Prefill: het verwerken van de prompt en de bijbehorende context.
- Decode: het genereren van het antwoord, token voor token.
Groq 3 LPX is vooral voor die tweede fase ontworpen. Vera Rubin NVL72 blijft volgens Nvidia het flexibelere systeem voor training, algemene inferentie, het verwerken van grote hoeveelheden context en toepassingen met hoge doorvoer. 34
De twee systemen vullen elkaar dus aan. Nvidia’s GPU’s blijven geschikt voor breed inzetbare, grootschalige berekeningen, terwijl de van Groq afkomstige architectuur wordt ingezet voor het onderdeel waar een gebruiker de vertraging het duidelijkst merkt: het snel produceren van de uiteindelijke respons.
De benchmark in perspectief
De uitkomst van 3.400 tokens per seconde klinkt indrukwekkend, maar is geen universele ranglijst voor alle AI-prestaties. Het resultaat geldt voor Gemma 4 31B, een context van 100.000 tokens en de specifieke opstelling van Artificial Analysis. Nvidia omschreef LPX op basis daarvan als vier keer responsiever dan het dichtstbijzijnde alternatieve platform. 17
35
In de praktijk hangt de snelheid van een AI-dienst ook af van onder meer de modelgrootte, promptlengte, het aantal gelijktijdige gebruikers, geheugen, netwerkinfrastructuur en de tijd die nodig is om de eerste context te verwerken. De decodefase is belangrijk, maar vormt slechts één onderdeel van de totale gebruikerservaring.
Waar de hardware terechtkomt
Nebius is de eerste aangekondigde AI-cloud die Groq 3 LPX gaat gebruiken. Het bedrijf wil de accelerator vóór het einde van 2026 integreren in Nebius Token Factory, zijn productieplatform voor AI-inferentie. 2
Ook Groq zegt tot de eerste gebruikers te behoren. De onderneming wil LPX naast Vera Rubin NVL72 inzetten in zijn speciaal voor AI-inferentie gebouwde cloud. In die combinatie leveren Rubin-systemen de bredere platformmogelijkheden, terwijl LPX de snelheid van de tokenproductie verhoogt bij toepassingen met lange contexten. 18
Hoe LPX binnen Vera Rubin past
Nvidia beschouwt Groq 3 LPX als het zevende belangrijke onderdeel van het Vera Rubin-platform. Een ander onderdeel is de Vera CPU, die volgens Nvidia 88 zelf ontworpen Olympus-cores bevat. 33
Die CPU is bedoeld voor het werk rondom modelinferentie, zoals orkestratie, gegevensverwerking, toolgebruik, code-uitvoering en simulatie. Nvidia maakte daarnaast bekend dat SpaceXAI Vera CPU’s wil inzetten voor toekomstige agentic-AI-toepassingen en een geoptimaliseerd Vera Rubin NVL72-systeem wil gebruiken voor een eerste Starmind AI-satelliet. 40
De productaankondigingen laten zien welke richting Nvidia op wil met zijn zogenoemde AI factories: niet iedere taak hoeft door dezelfde chip te worden uitgevoerd. CPU’s kunnen agent-workloads coördineren, GPU’s kunnen flexibele grootschalige berekeningen afhandelen en LPX kan zich concentreren op snelle, voorspelbare antwoordgeneratie.
Wat de deal van 20 miljard dollar met Groq inhield
Groq 3 LPX is tot nu toe het duidelijkste productresultaat van Nvidia’s overeenkomst met Groq uit december 2025. Toch is het misleidend om die deal simpelweg als een overname van Groq te omschrijven.
Volgens de berichtgeving ging het om een niet-exclusieve licentie voor Groq’s inferentietechnologie, gecombineerd met het aantrekken door Nvidia van Groq-oprichter en bestuursvoorzitter Jonathan Ross, president Sunny Madra en andere belangrijke medewerkers. 4
8
Groq bleef na de transactie actief en haalde later opnieuw financiering op. Dat past beter bij een overeenkomst rond technologie en talent dan bij de aankoop van de volledige operationele onderneming. 3
De structuur verklaart ook de positionering van het product. Nvidia heeft Groq’s technologie voor taalverwerking opgenomen in zijn eigen rackplatform, terwijl Groq als zelfstandig bedrijf actief blijft en de nieuwe Nvidia-hardware in zijn cloud wil gebruiken.
De strategische inzet
De kern van Nvidia’s aankondiging is niet alleen dat er een nieuwe AI-chip beschikbaar komt. Belangrijker is dat Nvidia de verschillende stappen van AI-dienstverlening verder uit elkaar trekt en de meest vertragingsgevoelige stap aan een gespecialiseerde accelerator toewijst.
Voor interactieve agents kan een snellere decodefase ervoor zorgen dat meerstapstaken merkbaar vlotter aanvoelen. De benchmark wijst op sterke prestaties in één configuratie met lange context, maar de echte test volgt wanneer LPX in cloudomgevingen wordt uitgerold.
De volledige productie, de geplande integratie bij Nebius en de inzet door Groq moeten uitwijzen of het benchmarkvoordeel ook leidt tot breed beschikbare en consistent snellere AI-diensten.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nvidia zet Groq 3 LPX in volledige productie voor snellere AI-antwoorden"?
Nvidia maakte op 24 augustus bekend dat Groq 3 LPX in volledige productie is gegaan.
What are the key points to validate first?
Nvidia maakte op 24 augustus bekend dat Groq 3 LPX in volledige productie is gegaan. LPX vervangt Nvidia’s GPU’s niet, maar is een gespecialiseerde accelerator voor de decodefase van inferentie: het moment waarop een model zijn antwoord token voor token genereert.
What should I do next in practice?
Nebius is de eerste aangekondigde AI cloudklant en wil LPX vóór het einde van 2026 integreren in zijn productieplatform Token Factory.