Nvidia na konferenci Hot Chips 2026, konané 24. srpna, oznámila plný výrobní start svého rackového akcelerátoru Groq 3 LPX. Zařízení je navržené jako specializovaná součást platformy Vera Rubin pro inferenci s nízkou latencí a dlouhým kontextem. Jeho hlavním úkolem je co nejrychleji generovat další tokeny, aby AI agenti působili při interakci svižněji.
3
6
Co Nvidia oznámila
V benchmarku Artificial Analysis běžel na Groq 3 LPX otevřený model Gemma 4 31B se 100 000 tokeny kontextu. Nvidia uvádí rychlost 3 400 výstupních tokenů za sekundu, zatímco přesnější hodnota citovaná v benchmarku činí 3 431 tokenů za sekundu.
1
6
Nvidia tvrdí, že LPX v těchto dlouhých a na odezvu citlivých úlohách reaguje čtyřikrát rychleji než nejbližší alternativní platforma.
6
Akcelerátor se zaměřuje především na fázi dekódování neboli samotné generování odpovědi token po tokenu. Platforma Vera Rubin NVL72 má dál zajišťovat širší spektrum práce, včetně trénování, zpracování kontextu a obecné inference.
3
6
Nvidia zařadila LPX jako sedmý významný čip platformy Vera Rubin vedle procesoru Vera a dalších komponent. Procesor Vera obsahuje 88 vlastních jader Olympus.
2
Prvním oznámeným cloudovým poskytovatelem, který LPX adoptuje, je Nebius. Ten ho plánuje nasadit do své produkční inferenční platformy Token Factory.
6
Mezi první uživatele se chce zařadit také samotný Groq. Firma plánuje nasadit LPX společně se systémy Vera Rubin NVL72 ve svém specializovaném cloudu pro AI inferenci.
4
Proč na tom záleží
Nvidia tím prosazuje rozdělení práce podle typu zátěže. GPU a systémy Rubin mají zůstat flexibilními pracovními koňmi pro rozsáhlé výpočty, trénování a různé inferenční úlohy. Groq 3 LPX má naopak řešit úzké hrdlo, které uživatel vnímá nejvíc: rychlost generování odpovědi po zadání požadavku.
3
6
U agentní AI je tento rozdíl důležitý. Agent často pracuje v několika krocích, vyhodnocuje kontext a následně generuje další instrukce nebo odpověď. Čím rychleji jednotlivé tokeny vznikají, tím plynulejší může být výsledná interakce.
Důležitá upřesnění
Tvrzení, že Nvidia Groq přímo „koupila“, není podle dostupných zpráv přesné. Popsaná transakce v hodnotě 20 miliard dolarů se týkala nevýhradní licence na technologii Groq a náboru klíčových lidí, nikoli jednoznačného převzetí celé společnosti. Do Nvidie přešel zakladatel Jonathan Ross, prezident Sunny Madra a další významní zaměstnanci, zatímco Groq následně pokračoval v činnosti a získal nové financování.
5
Dostupné podklady zároveň dostatečně nepotvrzují konkrétní tvrzení o 256 čipech v jednom racku, 500 MB integrované SRAM na čip, výrobě u Samsungu oproti výrobě GPU u TSMC ani údajné reakci společností AMD, Cerebras či režimu OpenAI s rychlostí 750 tokenů za sekundu.
Podklady rovněž potvrzují, že SpaceXAI plánuje pro agentní AI nasadit procesory Vera. Neprokazují však podrobnější tvrzení o provádění nástrojů, simulacích mezi orbitálními satelity ani přesný rozsah a harmonogram tohoto nasazení.
7