NVIDIAは2026年8月24日、Hot Chipsで、ラック規模の推論アクセラレーター「Groq 3 LPX」がフル生産に入ったと発表しました。LPXはVera Rubin NVL72と組み合わせて使うことを前提に設計されており、対話型AIやAIエージェントの応答速度を左右するトークン生成を高速化します。26

Artificial Analysisのベンチマークでは、Googleのオープンソースモデル「Gemma 4 31B」を10万トークンのコンテキストで実行した際、Groq 3 LPXは毎秒3,400出力トークンを生成しました。NVIDIAが公表したより正確な中央値は毎秒3,431トークンで、同社はこの条件で最も近い代替プラットフォームの4倍の速度だと説明しています。1735

Groq 3 LPXの役割

Groq 3 LPXが狙うのは、AIエージェント、コーディングアシスタントなど、長いコンテキストを扱いながら素早い応答が求められる用途です。NVIDIAは、LPXを予測可能で高速なトークン生成を実現する「インタラクティブ推論アクセラレーター」と位置付けています。1926

ポイントは、AI推論を「プリフィル」と「デコード」に分けて考えることです。プリフィルはユーザーのプロンプトや関連するコンテキストを読み込む工程で、デコードは回答を1トークンずつ生成する工程です。LPXは主に後者を高速化します。一方、Vera Rubin NVL72は、学習、幅広い推論、大量のコンテキスト処理に対応する柔軟な基盤として機能します。34

つまりLPXは、NVIDIAのGPU基盤を全面的に置き換えるものではありません。汎用性の高いGPUが大規模な計算を担い、Groq由来のアーキテクチャが、ユーザーの体感速度に直結する低遅延の生成処理を担当する構成です。

毎秒3,400トークンという数字の見方

Artificial Analysisの10万トークン・コンテキストのベンチマークで、Gemma 4 31Bを使った場合の中央値は毎秒3,431出力トークンでした。NVIDIAは発表上、この数字を毎秒3,400トークンに丸めています。17

ただし、これは特定のモデル、コンテキスト長、テスト環境における比較です。AI推論全体の性能を示す万能の指標ではありません。NVIDIAが示す「4倍」という主張も、今回の条件における最も近い代替プラットフォームとの比較です。35

実際のサービスでは、モデルの規模、入力の長さ、同時利用者数、メモリ、ネットワーク、最初のコンテキスト処理にかかる時間などが応答体験を左右します。トークン生成が速くても、入力の読み込みやシステム全体の処理が遅ければ、利用者が感じる待ち時間は短くならない場合があります。

どこで導入されるのか

最初の導入企業として発表されたのは、AIクラウド事業者のNebiusです。同社は2026年末までに、プロダクション推論基盤「Nebius Token Factory」へGroq 3 LPXを組み込む計画です。2

Groqも、初期導入企業の一社になると発表しています。同社は専用のAI推論クラウドで、Vera Rubin NVL72とGroq 3 LPXを併設する予定です。Vera Rubinがより広範な基盤機能を担い、LPXが長文脈ワークロードのトークン生成を高速化するという役割分担です。18

Vera Rubinプラットフォームでの位置付け

NVIDIAはGroq 3 LPXを、Vera Rubinプラットフォームを構成する7番目の主要コンポーネントとして位置付けています。同プラットフォームには、88個のカスタム設計「Olympus」コアを搭載するとされるVera CPUも含まれます。33

Vera CPUは、AIモデルそのものの計算だけでなく、エージェントの処理を取り巻く作業を担います。NVIDIAは、データ処理、オーケストレーション、ツール利用、コード実行などを用途として挙げています。また、SpaceXAIが次世代のAIエージェント用途でVera CPUを導入し、第1世代のStarmind AI衛星には最適化したVera Rubin NVL72を使う計画だと発表しました。40

これらの発表から見えるのは、あらゆるAI処理をGPUだけで処理するのではなく、仕事の種類ごとに専用コンポーネントを割り当てるNVIDIAの戦略です。CPUがエージェントの制御や周辺処理を担い、GPUが柔軟で大規模な計算を処理し、LPXが高速で一貫した回答生成に集中します。

「200億ドルでGroqを買収」は正確なのか

Groq 3 LPXは、NVIDIAが2025年12月にGroqと結んだ200億ドル規模の契約から生まれた、最も明確な製品成果です。ただし、この取引をGroqそのものの単純な買収と表現するのは正確ではありません。報道によれば、契約はGroqの推論技術に関する非独占ライセンスと、創業者兼CEOのJonathan Ross氏、社長のSunny Madra氏ら主要人材のNVIDIA入りを組み合わせたものでした。48

Groqは取引後も独立した企業として活動を続け、その後に追加の資金調達も実施しています。これは、運営会社全体の買収というより、技術と人材を中心とした取引だったことと整合します。3

NVIDIAはGroqの言語処理技術を自社のラック規模プラットフォームへ組み込み、Groqは独立企業として事業を続けながら、NVIDIAのハードウェアを自社クラウドで利用する構図です。

なお、ラックあたりのチップ数、オンチップSRAM容量、製造委託先の詳細や、AMD、Cerebras、OpenAIの具体的な対抗性能については、今回の主要な発表資料だけでは十分に裏付けられません。確認できる事実と、報道や推測に基づく仕様は分けて見る必要があります。

発表の戦略的な意味

今回の発表で重要なのは、NVIDIAが新しいAIチップを1つ追加したことだけではありません。AIサービスの処理段階を切り分け、その中でも遅延が問題になりやすい回答生成を専用アクセラレーターに任せる方向を明確にした点です。

AIエージェントが複数の手順を踏む場面では、デコードが速くなれば、各ステップの待ち時間が短くなり、操作感が改善する可能性があります。ただし、今回のベンチマーク結果がそのまま全アプリケーションの性能向上を意味するわけではありません。フル生産への移行、Nebiusでの導入、そしてGroq自身による採用が、LPXのベンチマーク上の優位性を実際のクラウドサービスへ転換できるかを判断する材料になります。

NVIDIAは2026年8月24日、Hot Chipsで、ラック規模の推論アクセラレーター「Groq 3 LPX」がフル生産に入ったと発表しました。LPXはVera Rubin NVL72と組み合わせて使うことを前提に設計されており、対話型AIやAIエージェントの応答速度を左右するトークン生成を高速化します。26

Artificial Analysisのベンチマークでは、Googleのオープンソースモデル「Gemma 4 31B」を10万トークンのコンテキストで実行した際、Groq 3 LPXは毎秒3,400出力トークンを生成しました。NVIDIAが公表したより正確な中央値は毎秒3,431トークンで、同社はこの条件で最も近い代替プラットフォームの4倍の速度だと説明しています。1735

Groq 3 LPXの役割

Groq 3 LPXが狙うのは、AIエージェント、コーディングアシスタントなど、長いコンテキストを扱いながら素早い応答が求められる用途です。NVIDIAは、LPXを予測可能で高速なトークン生成を実現する「インタラクティブ推論アクセラレーター」と位置付けています。1926

ポイントは、AI推論を「プリフィル」と「デコード」に分けて考えることです。プリフィルはユーザーのプロンプトや関連するコンテキストを読み込む工程で、デコードは回答を1トークンずつ生成する工程です。LPXは主に後者を高速化します。一方、Vera Rubin NVL72は、学習、幅広い推論、大量のコンテキスト処理に対応する柔軟な基盤として機能します。34

つまりLPXは、NVIDIAのGPU基盤を全面的に置き換えるものではありません。汎用性の高いGPUが大規模な計算を担い、Groq由来のアーキテクチャが、ユーザーの体感速度に直結する低遅延の生成処理を担当する構成です。

毎秒3,400トークンという数字の見方

Artificial Analysisの10万トークン・コンテキストのベンチマークで、Gemma 4 31Bを使った場合の中央値は毎秒3,431出力トークンでした。NVIDIAは発表上、この数字を毎秒3,400トークンに丸めています。17

ただし、これは特定のモデル、コンテキスト長、テスト環境における比較です。AI推論全体の性能を示す万能の指標ではありません。NVIDIAが示す「4倍」という主張も、今回の条件における最も近い代替プラットフォームとの比較です。35

実際のサービスでは、モデルの規模、入力の長さ、同時利用者数、メモリ、ネットワーク、最初のコンテキスト処理にかかる時間などが応答体験を左右します。トークン生成が速くても、入力の読み込みやシステム全体の処理が遅ければ、利用者が感じる待ち時間は短くならない場合があります。

どこで導入されるのか

最初の導入企業として発表されたのは、AIクラウド事業者のNebiusです。同社は2026年末までに、プロダクション推論基盤「Nebius Token Factory」へGroq 3 LPXを組み込む計画です。2

Groqも、初期導入企業の一社になると発表しています。同社は専用のAI推論クラウドで、Vera Rubin NVL72とGroq 3 LPXを併設する予定です。Vera Rubinがより広範な基盤機能を担い、LPXが長文脈ワークロードのトークン生成を高速化するという役割分担です。18

Vera Rubinプラットフォームでの位置付け

NVIDIAはGroq 3 LPXを、Vera Rubinプラットフォームを構成する7番目の主要コンポーネントとして位置付けています。同プラットフォームには、88個のカスタム設計「Olympus」コアを搭載するとされるVera CPUも含まれます。33

Vera CPUは、AIモデルそのものの計算だけでなく、エージェントの処理を取り巻く作業を担います。NVIDIAは、データ処理、オーケストレーション、ツール利用、コード実行などを用途として挙げています。また、SpaceXAIが次世代のAIエージェント用途でVera CPUを導入し、第1世代のStarmind AI衛星には最適化したVera Rubin NVL72を使う計画だと発表しました。40

これらの発表から見えるのは、あらゆるAI処理をGPUだけで処理するのではなく、仕事の種類ごとに専用コンポーネントを割り当てるNVIDIAの戦略です。CPUがエージェントの制御や周辺処理を担い、GPUが柔軟で大規模な計算を処理し、LPXが高速で一貫した回答生成に集中します。

「200億ドルでGroqを買収」は正確なのか

Groq 3 LPXは、NVIDIAが2025年12月にGroqと結んだ200億ドル規模の契約から生まれた、最も明確な製品成果です。ただし、この取引をGroqそのものの単純な買収と表現するのは正確ではありません。報道によれば、契約はGroqの推論技術に関する非独占ライセンスと、創業者兼CEOのJonathan Ross氏、社長のSunny Madra氏ら主要人材のNVIDIA入りを組み合わせたものでした。48

Groqは取引後も独立した企業として活動を続け、その後に追加の資金調達も実施しています。これは、運営会社全体の買収というより、技術と人材を中心とした取引だったことと整合します。3

NVIDIAはGroqの言語処理技術を自社のラック規模プラットフォームへ組み込み、Groqは独立企業として事業を続けながら、NVIDIAのハードウェアを自社クラウドで利用する構図です。

なお、ラックあたりのチップ数、オンチップSRAM容量、製造委託先の詳細や、AMD、Cerebras、OpenAIの具体的な対抗性能については、今回の主要な発表資料だけでは十分に裏付けられません。確認できる事実と、報道や推測に基づく仕様は分けて見る必要があります。

発表の戦略的な意味

今回の発表で重要なのは、NVIDIAが新しいAIチップを1つ追加したことだけではありません。AIサービスの処理段階を切り分け、その中でも遅延が問題になりやすい回答生成を専用アクセラレーターに任せる方向を明確にした点です。

AIエージェントが複数の手順を踏む場面では、デコードが速くなれば、各ステップの待ち時間が短くなり、操作感が改善する可能性があります。ただし、今回のベンチマーク結果がそのまま全アプリケーションの性能向上を意味するわけではありません。フル生産への移行、Nebiusでの導入、そしてGroq自身による採用が、LPXのベンチマーク上の優位性を実際のクラウドサービスへ転換できるかを判断する材料になります。