AnswersPublished16 sources
Nvidia annuncia la produzione completa di Groq 3 LPX, l’acceleratore per risposte IA più rapide
Il 24 agosto, a Hot Chips, Nvidia ha dichiarato che l’acceleratore rack scale Groq 3 LPX è entrato in produzione completa come componente di inferenza a bassa latenza della piattaforma Vera Rubin. LPX è progettato per generare rapidamente i token nei sistemi di IA agentica e lavora insieme a Vera Rubin NVL72, senza...
Pubblicato daImmagini generate con GPT Image 1.5
Research answer
Key takeaways
- Il 24 agosto, a Hot Chips, Nvidia ha dichiarato che l’acceleratore rack scale Groq 3 LPX è entrato in produzione completa come componente di inferenza a bassa latenza della piattaforma Vera Rubin.
- LPX è progettato per generare rapidamente i token nei sistemi di IA agentica e lavora insieme a Vera Rubin NVL72, senza sostituire le GPU per l’addestramento e i carichi di inferenza più generali.
- In un benchmark di Artificial Analysis, Groq 3 LPX ha raggiunto 3.431 token generati al secondo su Gemma 4 31B con un contesto di 100.000 token.
- Nvidia sostiene che il sistema offra una reattività quattro volte superiore rispetto alla piattaforma alternativa più vicina per questi carichi di lavoro.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full production launch of its Groq 3 LPX dedicated AI inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack scale accelerator had entered full production as the low latency, long context inference component of the Vera Rubin platform.. Topic tags: general web, openai, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnai
Nvidia ha annunciato il 24 agosto, durante Hot Chips 2026, che Groq 3 LPX è entrato in produzione completa. Il sistema è l’acceleratore di inferenza a livello di rack pensato per la piattaforma Vera Rubin, con un obiettivo preciso: rendere più rapida e prevedibile la generazione dei token nelle applicazioni di IA agentica. 3
6
Non si tratta di un sostituto delle GPU. La strategia di Nvidia è dividere i compiti: i sistemi Vera Rubin NVL72 restano la piattaforma flessibile per addestramento, gestione del contesto e inferenza ad alta capacità; LPX si concentra invece sulla fase di decode, cioè sulla produzione del token successivo durante la risposta del modello. 3
6
Le prestazioni dichiarate
Nel benchmark di Artificial Analysis citato da Nvidia, Groq 3 LPX ha generato 3.431 token al secondo usando il modello open source Gemma 4 31B con una finestra di contesto da 100.000 token. Nvidia ha arrotondato il risultato a 3.400 token al secondo nella propria comunicazione. 1
6
Secondo l’azienda, questa velocità rende LPX fino a quattro volte più reattivo rispetto alla piattaforma alternativa più vicina per i carichi di lavoro caratterizzati da contesti molto lunghi e dalla necessità di risposte rapide. 6
Il vantaggio è particolarmente rilevante per gli agenti IA, che possono dover leggere grandi quantità di informazioni e compiere più passaggi consecutivi. In questi casi, non conta soltanto la capacità complessiva del sistema: anche il tempo necessario per produrre ogni nuovo token influisce direttamente sulla sensazione di immediatezza dell’interazione.
Un nuovo elemento della piattaforma Vera Rubin
Nvidia ha descritto Groq 3 LPX come il settimo componente principale della piattaforma Vera Rubin. Tra gli altri elementi figura la CPU Vera, dotata di 88 core Olympus progettati da Nvidia e compatibili con Arm. 2
L’architettura è quindi eterogenea: le GPU Rubin e i sistemi NVL72 gestiscono i carichi più ampi e flessibili, mentre LPX è dedicato alla generazione dei token a bassa latenza. L’obiettivo è costruire infrastrutture di IA ottimizzate per tipo di carico, invece di affidare ogni fase dello stesso processo a un’unica classe di processori. 3
6
Chi adotterà Groq 3 LPX
Nebius è stato indicato come il primo cloud di IA ad adottare la tecnologia e prevede di integrarla nella piattaforma di inferenza in produzione Token Factory. 6
Anche Groq ha dichiarato che sarà tra i primi utilizzatori, implementando LPX insieme ai sistemi Vera Rubin NVL72 nel proprio cloud progettato specificamente per l’inferenza. 4
La precisazione sull’accordo Nvidia-Groq
La descrizione secondo cui Nvidia avrebbe “acquistato Groq” non è del tutto corretta. Le informazioni disponibili parlano di un accordo da 20 miliardi di dollari per concedere in licenza la tecnologia di Groq e assumere figure chiave, tra cui il fondatore Jonathan Ross e il presidente Sunny Madra, non di un’acquisizione completa della società. Groq è rimasta operativa e ha successivamente raccolto nuovi finanziamenti. 5
Non sono invece sufficientemente documentate alcune specifiche tecniche circolate sul prodotto, come il numero di chip per rack, la quantità di SRAM integrata o il processo produttivo. Lo stesso vale per alcune affermazioni su presunte reazioni di AMD, Cerebras e OpenAI: non sono supportate in modo adeguato dalle evidenze disponibili.
In sintesi
L’annuncio di Hot Chips colloca Groq 3 LPX in un ruolo ben definito: non una nuova GPU generalista, ma un acceleratore specializzato nel collo di bottiglia più visibile per gli utenti degli agenti IA, ossia la velocità con cui il sistema genera la risposta. Nvidia punta così a combinare la flessibilità di Vera Rubin con una generazione dei token più rapida e deterministica. 3
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nvidia annuncia la produzione completa di Groq 3 LPX, l’acceleratore per risposte IA più rapide"?
Il 24 agosto, a Hot Chips, Nvidia ha dichiarato che l’acceleratore rack scale Groq 3 LPX è entrato in produzione completa come componente di inferenza a bassa latenza della piattaforma Vera Rubin.
What are the key points to validate first?
Il 24 agosto, a Hot Chips, Nvidia ha dichiarato che l’acceleratore rack scale Groq 3 LPX è entrato in produzione completa come componente di inferenza a bassa latenza della piattaforma Vera Rubin. LPX è progettato per generare rapidamente i token nei sistemi di IA agentica e lavora insieme a Vera Rubin NVL72, senza sostituire le GPU per l’addestramento e i carichi di inferenza più generali.
What should I do next in practice?
In un benchmark di Artificial Analysis, Groq 3 LPX ha raggiunto 3.431 token generati al secondo su Gemma 4 31B con un contesto di 100.000 token.
Sources
developer.nvidia.comInside NVIDIA Groq 3 LPX: The Low-Latency Inference ...
blogs.nvidia.comNVIDIA Advances Vera Rubin Inference With New LPX and ...