NVIDIAは2026年8月24日、技術カンファレンス「Hot Chips 2026」で、AI推論アクセラレーター「NVIDIA Groq 3 LPX」がフル生産に入ったと発表した。LPXは、同社の次世代AI基盤「Vera Rubin」向けに設計されたラックスケール製品で、長いコンテキストを扱うAIエージェントの低遅延な応答を主な用途とする。
3
6
発表の要点
Artificial Analysisのベンチマークでは、オープンソースのエージェント向けモデルGemma 4 31Bを、10万トークンのコンテキストで実行。LPXは毎秒3,431個の出力トークンを生成した。NVIDIAの発表では、この数値を毎秒3,400トークンとして紹介している。
1
6
NVIDIAによると、この結果は長文脈かつ応答速度が重視されるワークロードで、最も近い代替プラットフォームの約4倍の応答性に相当する。
6
LPXの役割は、推論処理のうち「次のトークンを素早く生成する」デコード部分だ。Vera Rubin NVL72は、学習、入力コンテキストの処理、プリフィル、汎用的な大規模推論などを担い、LPXが生成処理のボトルネックを補う構成になる。
3
6
NVIDIAはLPXを、Vera Rubinを構成する主要チップの7番目の要素と位置付けている。プラットフォームには、88個の独自設計Olympusコアを搭載するVera CPUなども含まれる。
2
どこで、いつ提供されるのか
発表の場は8月24日のHot Chips 2026で、NVIDIAはこの時点でLPXがフル生産に入ったと説明した。最初のAIクラウド導入企業はNebiusで、同社はLPXを「Token Factory」本番推論プラットフォームに追加する計画だ。
6
Groqも初期導入企業の一社となる予定で、Vera Rubin NVL72とGroq 3 LPXを組み合わせ、自社の専用AI推論クラウドに展開するとしている。
4
NVIDIAにとっての戦略的な意味
NVIDIAが示すのは、AIデータセンターを単一種類のプロセッサーで構成するのではなく、処理内容ごとに最適化する考え方だ。GPUやVera Rubinシステムは柔軟な大規模計算、学習、汎用推論を担い、LPXはユーザーが体感する応答速度を決めるトークン生成に集中する。
3
6
特に、複数の手順を踏みながらツールを呼び出すAIエージェントでは、モデルが1回の回答を終えるまでに大量のトークンを順番に生成する。LPXは、この逐次生成を高速かつ予測しやすく処理するための専用エンジンという位置付けだ。
「NVIDIAがGroqを買収した」は正確か
前提として、NVIDIAがGroqを200億ドルで完全買収したという表現は正確ではない。報道で確認できるのは、Groqの推論技術に関する非独占的なライセンス契約と、創業者のJonathan Ross氏、社長のSunny Madra氏を含む主要人材のNVIDIAへの参加だ。Groqはその後も独立企業として活動し、新たな資金調達も行っている。
5
また、今回確認できる資料だけでは、1ラック当たり256チップ、チップごとのオンチップSRAM容量、SamsungとTSMCの製造分担、AMDやCerebrasの対応、OpenAIの毎秒750トークンモードといった個別の主張を十分に裏付けられない。
SpaceXAIがエージェント向けAI用途でVera CPUを導入する計画についても資料には言及があるが、ツール実行や軌道上衛星のシミュレーション、導入時期の詳細までは確認できない。
7