AntwortenVeröffentlicht22 Quellen
Nvidia setzt Groq 3 LPX für besonders schnelle KI-Antworten in Produktion
Nvidia meldete am 24. August die Vollproduktion des Groq 3 LPX. Der LPX ersetzt Nvidias GPUs nicht, sondern beschleunigt gezielt die Decode Phase der Inferenz: also den Moment, in dem ein Modell seine Antwort Token für Token erzeugt.
Veröffentlicht vonBearbeitet mit GPT-5.6 LunaBilder erstellt mit GPT Image 1.5
Forschungsantwort
Wichtige Erkenntnisse
- Nvidia meldete am 24. August die Vollproduktion des Groq 3 LPX.
- Der LPX ersetzt Nvidias GPUs nicht, sondern beschleunigt gezielt die Decode Phase der Inferenz: also den Moment, in dem ein Modell seine Antwort Token für Token erzeugt.
- Nebius ist der erste angekündigte KI Cloud Kunde und will den LPX bis Ende 2026 in die Produktionsplattform Token Factory integrieren.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full-production launch of its Groq 3 LPX dedicated AI-inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack-scale accelerator had entered full production as the low-latency, long-context inference component of the Vera Rubin platform. It is intended for rapid token gen. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Nvidia hat am 24. August auf der Chip-Konferenz Hot Chips angekündigt, dass der rackbasierte Inferenzbeschleuniger Groq 3 LPX in die Vollproduktion gegangen ist. Das System soll gemeinsam mit Vera Rubin NVL72 eingesetzt werden und vor allem die Token-Erzeugung beschleunigen – jenen Teil der KI-Verarbeitung, der maßgeblich bestimmt, wie schnell ein interaktiver Assistent antwortet. 26
In einem Benchmark von Artificial Analysis erreichte Groq 3 LPX bei Googles Open-Source-Modell Gemma 4 31B eine Geschwindigkeit von 3.400 Ausgabe-Token pro Sekunde. Getestet wurde mit einem Kontext von 100.000 Token. Nvidia bezeichnete das Ergebnis als viermal schneller als die nächstbeste Plattform für diesen konkreten Anwendungsfall. 17
35
Wofür der Groq 3 LPX gedacht ist
Der LPX zielt auf KI-Agenten, Programmierassistenten und andere Anwendungen, bei denen lange Kontexte verarbeitet werden und Antworten möglichst ohne spürbare Verzögerung erscheinen sollen. Nvidia beschreibt ihn als interaktiven Inferenzbeschleuniger für eine schnelle und möglichst vorhersehbare Token-Erzeugung. 19
26
Entscheidend ist die Aufteilung der Inferenz in zwei Phasen:
- Prefill: Das System liest und verarbeitet die Eingabe samt Kontext.
- Decode: Das Modell erzeugt die Antwort schrittweise, ein Token nach dem anderen.
Der Groq 3 LPX konzentriert sich vor allem auf die zweite Phase. Vera Rubin NVL72 bleibt dagegen die vielseitigere Plattform für Training, allgemeine Inferenz, die Verarbeitung großer Kontexte und hohe Auslastung. 34
Damit präsentiert Nvidia den LPX nicht als Ersatz für seine GPUs, sondern als Ergänzung. GPUs übernehmen weiterhin breit einsetzbare beschleunigte Rechenaufgaben. Die von Groq stammende Architektur soll dort einspringen, wo bei der Bereitstellung eines KI-Modells vor allem niedrige Latenz gefragt ist.
Was der Benchmark aussagt – und was nicht
Das häufig genannte Ergebnis von 3.400 Token pro Sekunde ist gerundet. Im 100K-Kontext-Benchmark von Artificial Analysis lag der Median bei 3.431 Ausgabe-Token pro Sekunde, gemessen mit Gemma 4 31B. Nvidia rundete diesen Wert in seiner Ankündigung auf 3.400. 17
Die Zahl ist jedoch kein allgemeiner Geschwindigkeitswert für jede KI-Anwendung. Sie bezieht sich auf das getestete Modell, die konkrete Kontextlänge und den Aufbau des Benchmarks. Nvidia sprach in diesem Szenario von einer vierfach höheren Reaktionsgeschwindigkeit gegenüber der nächstbesten Plattform. 35
Für die Praxis spielen weitere Faktoren eine Rolle: die Größe des Modells, die Länge der Eingabe, die Zahl gleichzeitig bedienter Nutzer, Speicher und Netzwerk sowie die Zeit, die zunächst für die Verarbeitung des Eingangskontexts benötigt wird. Eine hohe Decode-Geschwindigkeit allein garantiert daher nicht automatisch eine ebenso schnelle Nutzererfahrung.
Erste Einsatzorte: Nebius und Groq
Nebius ist der erste öffentlich angekündigte KI-Cloud-Anbieter, der den Groq 3 LPX einsetzen will. Das Unternehmen plant, den Beschleuniger bis Ende 2026 in seine Produktionsplattform Nebius Token Factory zu integrieren. 2
Auch Groq will zu den ersten Anwendern gehören. Der Anbieter plant, den LPX gemeinsam mit Vera Rubin NVL72 in seiner speziell für KI-Inferenz entwickelten Cloud einzusetzen. Die Rollenverteilung ist dabei klar: Rubin-Systeme liefern die breiteren Plattformfunktionen, während LPX die Token-Erzeugung bei kontextintensiven Aufgaben beschleunigt. 18
Der siebte Baustein der Vera-Rubin-Plattform
Nvidia ordnet Groq 3 LPX als siebten wichtigen Baustein der Vera-Rubin-Plattform ein. Zu den weiteren Komponenten zählt unter anderem die Vera-CPU mit laut Nvidia 88 eigens entwickelten Olympus-Kernen. 33
Die Vera-CPU soll Aufgaben rund um die eigentliche Modell-Inferenz übernehmen – darunter Orchestrierung, Datenverarbeitung, Tool-Nutzung und Codeausführung. Nvidia kündigte außerdem an, dass SpaceXAI Vera-CPUs für künftige agentische KI-Anwendungen einsetzen will. Ein optimiertes Vera-Rubin-NVL72-System soll zudem in einem KI-Satelliten der ersten Starmind-Generation zum Einsatz kommen. 40
Die Ankündigungen zeigen Nvidias übergeordneten Ansatz: KI-Rechenzentren sollen aus spezialisierten Komponenten bestehen, statt jede Aufgabe mit einer GPU zu erledigen. CPUs koordinieren Agenten-Workloads, GPUs übernehmen flexible Rechenleistung und LPX konzentriert sich auf eine schnelle, deterministische Antwortgenerierung.
Was hinter dem 20-Milliarden-Dollar-Deal mit Groq steckt
Der Start des LPX ist bislang das deutlichste Produktergebnis von Nvidias Vereinbarung mit Groq vom Dezember 2025. Die Bezeichnung als einfacher Kauf von Groq wäre allerdings ungenau. Berichten zufolge ging es um eine nicht-exklusive Lizenz für Groqs Inferenztechnologie sowie um den Wechsel von Groq-Gründer und CEO Jonathan Ross, Präsident Sunny Madra und weiteren wichtigen Mitarbeitern zu Nvidia. 4
8
Groq blieb nach der Vereinbarung aktiv und nahm später weiteres Kapital auf. Das spricht eher für eine Technologie- und Talentvereinbarung als für die Übernahme des gesamten operativen Unternehmens. 3
Diese Struktur erklärt auch die Positionierung des Produkts: Nvidia integriert Groqs Sprachverarbeitungstechnologie in eine eigene rackbasierte Plattform, während Groq als eigenständiges Unternehmen weiterarbeitet und die daraus entstehende Nvidia-Hardware künftig in der eigenen Cloud einsetzen will.
Die strategische Bedeutung
Die wichtigste Nachricht lautet daher nicht nur, dass Nvidia einen weiteren KI-Chip produziert. Nvidia trennt vielmehr einzelne Phasen der KI-Bereitstellung und weist die besonders latenzkritische Phase einem spezialisierten Beschleuniger zu.
Für interaktive Agenten kann eine schnellere Decode-Phase mehr bewirken als bloß kürzere Wartezeiten bei einer einzelnen Antwort: Mehrstufige Aufgaben können sich unmittelbarer anfühlen, weil der Agent schneller Ergebnisse und Zwischenschritte liefert. Der Benchmark zeigt zwar einen deutlichen Vorsprung in einer bestimmten Langkontext-Konfiguration. Ob daraus ein breiter Cloud-Vorteil wird, muss sich jedoch erst im praktischen Einsatz zeigen.
Die Vollproduktion, die geplante Integration bei Nebius und der Einsatz bei Groq sind deshalb die entscheidenderen Prüfsteine als die einzelne Rekordzahl.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Nvidia setzt Groq 3 LPX für besonders schnelle KI-Antworten in Produktion“?
Nvidia meldete am 24. August die Vollproduktion des Groq 3 LPX.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Nvidia meldete am 24. August die Vollproduktion des Groq 3 LPX. Der LPX ersetzt Nvidias GPUs nicht, sondern beschleunigt gezielt die Decode Phase der Inferenz: also den Moment, in dem ein Modell seine Antwort Token für Token erzeugt.
Was soll ich als nächstes in der Praxis tun?
Nebius ist der erste angekündigte KI Cloud Kunde und will den LPX bis Ende 2026 in die Produktionsplattform Token Factory integrieren.