MLPerf Inference v6.1は、単一チップの順位表というよりも、AIを実際に提供する仕組みがどう変わっているかを映すスナップショットだ。AMDのMI355Xによる超大規模構成、NVIDIA Vera Rubinの初のプレビュー結果、Intelによるより利用しやすい推論システムの拡充、そしてRAG（検索拡張生成）とエッジAIエージェントの新テストが、今回の大きな論点になった。

要するに、比較すべき対象はもはや「どのGPUが速いか」だけではない。求める遅延を守りながら、対象ワークロードを動かせる、入手可能な推論システム全体である。

AMDのMI355Xは「総規模」の重要性を浮き彫りにした

AMDで最も目を引く結果は、Crusoeが提出したInstinct MI355Xを512基用いた構成だ。この構成はv6.1で報告された中で最大の総トークン処理量を記録した。5 これはアクセラレータ単体の性能だけでなく、大規模分散推論、ネットワーク、システム統合まで含めた検証である。

ただし、この結果をそのまま「すべての用途で最強」という結論に置き換えることはできない。512 GPUの総スループットは、GPU数、モデル、ベンチマークのシナリオ、求められるサービスレベルをそろえずに、単一ラックや小規模クラスタと比べるべきではないためだ。

大規模な推論フリートでは総処理量が最も重要な指標になり得る。一方で個別の導入案件では、GPU当たりの性能、ラック密度、電力、調達可能性、運用の複雑さの方が重要になる場合もある。

ROCmの進化が持つ戦略的な意味

AMDの結果は、ソフトウェアの話でもある。同社は、同じMI355Xハードウェアで前回のMLPerfラウンドより性能が向上したとし、その要因としてROCmの最適化を挙げた。これは、コンパイラ、カーネル、モデルランタイム、分散サービングのソフトウェアを改善すれば、ハードウェアを更新せずに既存設備の実効能力を高められることを意味する。

AMDはROCmを6週間ごとにリリースする方針も示している。このペースで本番導入可能な改善が継続するなら、ソフトウェアの進化速度は、利用者の「1トークン当たりコスト」の計算に直接影響する要素になり得る。ただし、MLPerfでの伸びが本番環境にも同じ比率で反映されるとは限らない。実際の導入では、モデル構成、量子化方式、フレームワーク、アクセスパターン、遅延目標に照らして検証する必要がある。

NVIDIAはVera Rubinで次世代の可能性を示した

NVIDIA Vera Rubin NVL72は、MLPerf Inferenceに初めてプレビューとして登場した。NVIDIAはQwen3-VLで、GB300 NVL72比で最大3.7倍のスループットを報告している。また、GB300 NVL72を288 GPU、4ラックで構成した提出では、99％のスケーリング効率を達成したとしている。2

ここで重要なのは、プレビューである点だ。プレビュー結果は、アーキテクチャの方向性やソフトウェアの成熟度を示す材料にはなるが、一般提供済みのシステムと同じ条件で購入比較できることを意味しない。また、プレビュー提出ではクラスタ規模も一様ではないため、総システムのスループットだけでなく、GPU当たりなどに正規化した比較が有用になる。8

短期的な導入の中心には、引き続きBlackwellとBlackwell Ultraがある。たとえばCoreWeaveは、Qwen3-VL、DeepSeek-R1、GPT-OSS-120Bにおいて、複数のBlackwell／Blackwell Ultra構成でクラウド事業者としての先行結果を報告した。4

実務上の結論は「唯一の勝者」ではなく、用途ごとの使い分けだ。大規模クラスタの総処理能力、ラック単位のサービング、マルチモーダル推論、対話型の低遅延は、それぞれ異なる構成を有利にし得る。

Intelは推論ハードウェアの選択肢を広げた

Intelの提出は、CPU推論とワークステーションクラスGPU推論の存在感を高めた。Arc Pro B70を4基搭載したノードは合計128GBのVRAMを備え、Llama、GPT-OSS-120B、Whisper、新設のエンドツーエンドRAGワークロードで結果を提出している。またIntelは、同一のArc Pro B70構成で前回ラウンド比のソフトウェア起因の性能向上も報告した。3

これは、Arc Proをハイパースケール向けアクセラレータクラスタの直接的な代替と位置付けるものではない。しかし、より小規模、低コスト、あるいは柔軟な展開を検討する組織にとって、ベンチマークの対象が広がったことには意味がある。特にメモリ容量、オンプレミスやローカルでの推論、既存サーバー基盤との親和性が判断を左右するケースでは重要だ。

RAGとAIエージェントの新テストで、より導入現場に近づいた

MLCommonsによると、v6.1には過去最多となる30組織が参加し、データセンターとエッジを合わせて486件の結果が提出された。新たに、データセンター向けのエンドツーエンドRAGベンチマークと、Edge Agentic Inferenceベンチマークが追加された。9

この拡張は重要だ。AIエージェント型のワークロードでは、従来のオフライン・トークン処理量テストでは見えにくいボトルネックが生まれる。複数ターンの対話、ツール呼び出し、オーケストレーションの負荷、各ステップ間の応答性などだ。MLCommonsはエッジ向けテストについて、エージェント型コーディングのような複雑で複数ターンにわたるタスクへの移行を反映したものだと説明している。9

もちろん、これらも統制されたベンチマークであり、稼働中の本番サービスを完全に再現するものではない。それでも、現在多くのチームが実装しようとしているAIアプリケーションの姿には一歩近づいている。

「MLPerf Endpoints」への展開が意味するもの

MLCommonsは、次の方向性としてMLPerf Endpointsも予告した。ここでの違いは、定期的なベンチマーク提出と、実際に稼働している推論エンドポイントで観測可能な性能との間にある。

エンドポイント中心の仕組みが成熟すれば、固定条件の1回のベンチマークにおけるピーク性能だけでなく、負荷時の挙動、遅延の安定性、可用性、運用上の再現性が、より重視される可能性がある。

ただし現時点では、既存の提出方式を置き換える確定済みの制度ではなく、測定手法の新たな方向性として捉えるべきだ。v6.1の結果自体が、最大トークン／秒だけでは導入品質を評価しきれない理由を示している。

購入・導入時の教訓：見出しの数字ではなく、スタック全体を比べる

MLPerf v6.1は、AI推論の競争が次の3要素で決まることを強く示した。

1. アクセラレータそのものの能力
2. ソフトウェア最適化の進展
3. 大規模システムとしての統合力

AMDの大規模MI355X提出はスケールの重要性を示し、NVIDIA Vera Rubinのプレビューは次の性能段階を示唆した。一方、現在の導入ではBlackwellが重要な位置を占める。Intel Arc Pro B70の結果は、評価対象となるハードウェアの裾野を広げた。そしてMLCommonsの新テストは、RAGやAIエージェントが従来とは異なる性能要件を生むことを認めるものだ。

プラットフォームを選ぶ際は、まず用途と運用目標から始めたい。対象モデル、コンテキスト長、同時実行数、レイテンシーSLO（サービスレベル目標）、電力枠、導入規模、有効な出力当たりのコストを定める。そのうえで、同等の規模と提供状況にあるシステム同士を比較する。

その方が、MLPerfの単一の見出し数字を万能な答えとして扱うより、はるかに実用的だ。

MLPerf Inference v6.1は、単一チップの順位表というよりも、AIを実際に提供する仕組みがどう変わっているかを映すスナップショットだ。AMDのMI355Xによる超大規模構成、NVIDIA Vera Rubinの初のプレビュー結果、Intelによるより利用しやすい推論システムの拡充、そしてRAG（検索拡張生成）とエッジAIエージェントの新テストが、今回の大きな論点になった。

要するに、比較すべき対象はもはや「どのGPUが速いか」だけではない。求める遅延を守りながら、対象ワークロードを動かせる、入手可能な推論システム全体である。

AMDのMI355Xは「総規模」の重要性を浮き彫りにした

AMDで最も目を引く結果は、Crusoeが提出したInstinct MI355Xを512基用いた構成だ。この構成はv6.1で報告された中で最大の総トークン処理量を記録した。5 これはアクセラレータ単体の性能だけでなく、大規模分散推論、ネットワーク、システム統合まで含めた検証である。

ただし、この結果をそのまま「すべての用途で最強」という結論に置き換えることはできない。512 GPUの総スループットは、GPU数、モデル、ベンチマークのシナリオ、求められるサービスレベルをそろえずに、単一ラックや小規模クラスタと比べるべきではないためだ。

大規模な推論フリートでは総処理量が最も重要な指標になり得る。一方で個別の導入案件では、GPU当たりの性能、ラック密度、電力、調達可能性、運用の複雑さの方が重要になる場合もある。

ROCmの進化が持つ戦略的な意味

AMDの結果は、ソフトウェアの話でもある。同社は、同じMI355Xハードウェアで前回のMLPerfラウンドより性能が向上したとし、その要因としてROCmの最適化を挙げた。これは、コンパイラ、カーネル、モデルランタイム、分散サービングのソフトウェアを改善すれば、ハードウェアを更新せずに既存設備の実効能力を高められることを意味する。

AMDはROCmを6週間ごとにリリースする方針も示している。このペースで本番導入可能な改善が継続するなら、ソフトウェアの進化速度は、利用者の「1トークン当たりコスト」の計算に直接影響する要素になり得る。ただし、MLPerfでの伸びが本番環境にも同じ比率で反映されるとは限らない。実際の導入では、モデル構成、量子化方式、フレームワーク、アクセスパターン、遅延目標に照らして検証する必要がある。

NVIDIAはVera Rubinで次世代の可能性を示した

NVIDIA Vera Rubin NVL72は、MLPerf Inferenceに初めてプレビューとして登場した。NVIDIAはQwen3-VLで、GB300 NVL72比で最大3.7倍のスループットを報告している。また、GB300 NVL72を288 GPU、4ラックで構成した提出では、99％のスケーリング効率を達成したとしている。2

ここで重要なのは、プレビューである点だ。プレビュー結果は、アーキテクチャの方向性やソフトウェアの成熟度を示す材料にはなるが、一般提供済みのシステムと同じ条件で購入比較できることを意味しない。また、プレビュー提出ではクラスタ規模も一様ではないため、総システムのスループットだけでなく、GPU当たりなどに正規化した比較が有用になる。8

短期的な導入の中心には、引き続きBlackwellとBlackwell Ultraがある。たとえばCoreWeaveは、Qwen3-VL、DeepSeek-R1、GPT-OSS-120Bにおいて、複数のBlackwell／Blackwell Ultra構成でクラウド事業者としての先行結果を報告した。4

実務上の結論は「唯一の勝者」ではなく、用途ごとの使い分けだ。大規模クラスタの総処理能力、ラック単位のサービング、マルチモーダル推論、対話型の低遅延は、それぞれ異なる構成を有利にし得る。

Intelは推論ハードウェアの選択肢を広げた

Intelの提出は、CPU推論とワークステーションクラスGPU推論の存在感を高めた。Arc Pro B70を4基搭載したノードは合計128GBのVRAMを備え、Llama、GPT-OSS-120B、Whisper、新設のエンドツーエンドRAGワークロードで結果を提出している。またIntelは、同一のArc Pro B70構成で前回ラウンド比のソフトウェア起因の性能向上も報告した。3

これは、Arc Proをハイパースケール向けアクセラレータクラスタの直接的な代替と位置付けるものではない。しかし、より小規模、低コスト、あるいは柔軟な展開を検討する組織にとって、ベンチマークの対象が広がったことには意味がある。特にメモリ容量、オンプレミスやローカルでの推論、既存サーバー基盤との親和性が判断を左右するケースでは重要だ。

RAGとAIエージェントの新テストで、より導入現場に近づいた

MLCommonsによると、v6.1には過去最多となる30組織が参加し、データセンターとエッジを合わせて486件の結果が提出された。新たに、データセンター向けのエンドツーエンドRAGベンチマークと、Edge Agentic Inferenceベンチマークが追加された。9

この拡張は重要だ。AIエージェント型のワークロードでは、従来のオフライン・トークン処理量テストでは見えにくいボトルネックが生まれる。複数ターンの対話、ツール呼び出し、オーケストレーションの負荷、各ステップ間の応答性などだ。MLCommonsはエッジ向けテストについて、エージェント型コーディングのような複雑で複数ターンにわたるタスクへの移行を反映したものだと説明している。9

もちろん、これらも統制されたベンチマークであり、稼働中の本番サービスを完全に再現するものではない。それでも、現在多くのチームが実装しようとしているAIアプリケーションの姿には一歩近づいている。

「MLPerf Endpoints」への展開が意味するもの

MLCommonsは、次の方向性としてMLPerf Endpointsも予告した。ここでの違いは、定期的なベンチマーク提出と、実際に稼働している推論エンドポイントで観測可能な性能との間にある。

エンドポイント中心の仕組みが成熟すれば、固定条件の1回のベンチマークにおけるピーク性能だけでなく、負荷時の挙動、遅延の安定性、可用性、運用上の再現性が、より重視される可能性がある。

ただし現時点では、既存の提出方式を置き換える確定済みの制度ではなく、測定手法の新たな方向性として捉えるべきだ。v6.1の結果自体が、最大トークン／秒だけでは導入品質を評価しきれない理由を示している。

購入・導入時の教訓：見出しの数字ではなく、スタック全体を比べる

MLPerf v6.1は、AI推論の競争が次の3要素で決まることを強く示した。

1. アクセラレータそのものの能力
2. ソフトウェア最適化の進展
3. 大規模システムとしての統合力

AMDの大規模MI355X提出はスケールの重要性を示し、NVIDIA Vera Rubinのプレビューは次の性能段階を示唆した。一方、現在の導入ではBlackwellが重要な位置を占める。Intel Arc Pro B70の結果は、評価対象となるハードウェアの裾野を広げた。そしてMLCommonsの新テストは、RAGやAIエージェントが従来とは異なる性能要件を生むことを認めるものだ。

プラットフォームを選ぶ際は、まず用途と運用目標から始めたい。対象モデル、コンテキスト長、同時実行数、レイテンシーSLO（サービスレベル目標）、電力枠、導入規模、有効な出力当たりのコストを定める。そのうえで、同等の規模と提供状況にあるシステム同士を比較する。

その方が、MLPerfの単一の見出し数字を万能な答えとして扱うより、はるかに実用的だ。