OpenAIは、Broadcomと共同開発した大規模言語モデル（LLM）推論専用チップ「Jalapeño」について、NvidiaのGB200およびGB300を搭載した比較システムを、電力効率と応答速度の両面で上回ったと発表した。対象はGPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tで、OpenAIによれば、ピークスループット時のAI処理量／ワットは1.5～1.9倍、エンドツーエンド遅延は1.7～3.6倍改善したという。47

ただし、これはOpenAIが公表した初期結果だ。独立機関がすべての実運用ワークロードを同一条件で測定した、完全な「同条件比較」と受け取るべきではない。

ベンチマークで何が変わったのか

GPT-OSS 120BをGB200と比較した場合、OpenAIはJalapeñoについて、ピーク時の混合スループット／キロワットが85,448で、GB200の44,960に対して1.9倍だったと報告している。エンドツーエンド遅延は1.03秒で、GB200の1.80秒から1.7倍低下した。4

トークン生成の滑らかさを示す「トークン間隔」では、Jalapeñoが最小0.69ミリ秒、ユーザーあたり毎秒1,459トークン。GB200は1.87ミリ秒、毎秒535トークンだった。4

DeepSeek R1のMXFP4構成をGB300と比較した試験では、ピーク時のスループット／キロワットが19,641対11,781で1.7倍、エンドツーエンド遅延が1.65秒対5.99秒で3.6倍低かった。最小トークン間隔は1.43ミリ秒で、ユーザーあたりの速度は約700トークン／秒。GB300の約169トークン／秒に対して大きな差が出たとしている。4

Kimi K2.5のMXFP4構成では、GB300に対してピークスループット／キロワットが1.5倍、エンドツーエンド遅延が3.4倍低下。最小トークン間隔に基づく速度は、Jalapeñoが約694トークン／秒、GB300が約182トークン／秒だった。4

Jalapeñoは何が違うのか

Jalapeñoは、汎用GPUをLLM向けに調整した製品ではなく、LLM推論に特化して設計されたアクセラレーターだ。OpenAIがアクセラレーターの設計、Broadcomがシリコン実装とネットワーク、Celesticaがボード、ラック、システム統合を担当したと説明している。1

公開された設計では、複数のチップを大規模なネットワーク領域で接続し、処理を一つのシステム内にとどめる。モデルの状態や、過去のトークン情報を保持するKVキャッシュもローカルに配置し、チップ間のデータ移動や通信待ちを抑える考え方だ。4

また、入力プロンプトを処理する「プリフィル」と、回答を1トークンずつ生成する「デコード」を、別々のリソース群に完全分離しない設計も特徴とされる。プリフィルは計算負荷が高く、デコードはメモリ帯域への依存が大きいため、計算・メモリ・ネットワーク資源を状況に応じて融通できるようにする狙いがある。4

一方、公開情報から分かるシステム仕様は限られている。技術報告の一つは、約128チップ、約1.7エクサFLOPS、HBM約27TBのシステムを説明しているが、OpenAIのベンチマーク記事だけではラック全体の部品構成までは確認できない。4

9カ月でテープアウト、設計にもAIを活用

OpenAIは、初期設計から半導体製造に回す「テープアウト」までを9カ月で完了したと説明している。高性能ASICの開発期間として、非常に短いサイクルだという。1

設計、実装の探索、測定、検証、算術回路の最適化、プログラミングにはOpenAIのモデルも使われた。OpenAIによれば、CodexとGPT-Astraを活用し、当初の計画にはなかった3つのオープンウェイトモデルを2カ月で高性能に対応させた。また、GPT-OSSのアテンションやMixture-of-Experts（専門家混合）ブロックの一部では、AIが生成した実装が従来の人手による実装より1.5～1.8倍高速だったという。ただし、これはモデル全体ではなく、特定ブロック単位の数値だ。4

数字を見るうえでの注意点

今回の試験には、SemiAnalysisが公開する推論ベンチマーク「InferenceX」が使われた。公称で入力8,000トークン、出力1,000トークンの単一ターン処理を前提に、リクエストを受けてから回答を返すまでを測定。ユーザー体験をそろえ、公開されたチップの消費電力で正規化している。47

Jalapeñoのパッケージ電力は700ワットとされる一方、OpenAIは今回の処理で測定した持続電力が550ワット以下だったと説明している。比較対象のGB200とGB300は、それぞれ1,200ワット、1,400ワットとして計算された。したがって、ワットあたりの優位性は、ワークロードや電力の数え方によって変わり得る。4

SemiAnalysisはOpenAIの研究所で実行を確認したが、ベンチマーク一式を自ら実行したわけではないとしている。また、単一ターンの8,000トークン入力／1,000トークン出力という条件では、長いコンテキスト、マルチターンのAIエージェント、リクエストの振り分け、プレフィックスキャッシュ、キャッシュ管理、データのオフロードなどを評価できないと注意を促している。これらは本番環境の性能を大きく左右する可能性がある。4

比較対象が時点に依存する点にも注意が必要だ。GB200とGB300はいずれも商用のBlackwell世代システムだが、Jalapeñoが本格展開される時期には、より新しいNvidia製品が比較対象として適切になる可能性がある。Nvidiaが公開するMLPerfのDeepSeek R1結果も、オフライン処理を測る別の方法論に基づくため、Jalapeñoのインタラクティブな「ユーザーあたりトークン数」と直接比較することはできない。24

Nvidiaを置き換えるのか

OpenAIはJalapeñoを学習向けには設計していない。モデル学習や一部の推論処理では、今後もNvidia、AMDなどのアクセラレーターに依存する方針だ。6

導入はまずOpenAI自身の計算インフラに限定され、2026年末までに小規模な展開を始め、2027年に容量を増やす計画とされる。第2世代は「開発がかなり進んでおり」、第3世代も形になり始めているという。46

外部へのチップ販売は予定していない。OpenAIのハードウェア部門幹部リチャード・ホー氏は、社内需要が大きく、外販を想定できないと説明した。6

GoogleのTPU、AmazonやMicrosoftの自社AIチップ、さらにAnthropicが進める社内チップ設計の取り組みと並び、JalapeñoはAI企業による垂直統合競争の一例となる。ただし現時点で示された優位性は、公開された条件におけるLLM推論に限った主張だ。NvidiaやAMDを全面的に置き換えるというより、OpenAIが自社サービス向けに特定の処理を効率化するための補完的な基盤と見るのが妥当だろう。46

OpenAIは、Broadcomと共同開発した大規模言語モデル（LLM）推論専用チップ「Jalapeño」について、NvidiaのGB200およびGB300を搭載した比較システムを、電力効率と応答速度の両面で上回ったと発表した。対象はGPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tで、OpenAIによれば、ピークスループット時のAI処理量／ワットは1.5～1.9倍、エンドツーエンド遅延は1.7～3.6倍改善したという。47

ただし、これはOpenAIが公表した初期結果だ。独立機関がすべての実運用ワークロードを同一条件で測定した、完全な「同条件比較」と受け取るべきではない。

ベンチマークで何が変わったのか

GPT-OSS 120BをGB200と比較した場合、OpenAIはJalapeñoについて、ピーク時の混合スループット／キロワットが85,448で、GB200の44,960に対して1.9倍だったと報告している。エンドツーエンド遅延は1.03秒で、GB200の1.80秒から1.7倍低下した。4

トークン生成の滑らかさを示す「トークン間隔」では、Jalapeñoが最小0.69ミリ秒、ユーザーあたり毎秒1,459トークン。GB200は1.87ミリ秒、毎秒535トークンだった。4

DeepSeek R1のMXFP4構成をGB300と比較した試験では、ピーク時のスループット／キロワットが19,641対11,781で1.7倍、エンドツーエンド遅延が1.65秒対5.99秒で3.6倍低かった。最小トークン間隔は1.43ミリ秒で、ユーザーあたりの速度は約700トークン／秒。GB300の約169トークン／秒に対して大きな差が出たとしている。4

Kimi K2.5のMXFP4構成では、GB300に対してピークスループット／キロワットが1.5倍、エンドツーエンド遅延が3.4倍低下。最小トークン間隔に基づく速度は、Jalapeñoが約694トークン／秒、GB300が約182トークン／秒だった。4

Jalapeñoは何が違うのか

Jalapeñoは、汎用GPUをLLM向けに調整した製品ではなく、LLM推論に特化して設計されたアクセラレーターだ。OpenAIがアクセラレーターの設計、Broadcomがシリコン実装とネットワーク、Celesticaがボード、ラック、システム統合を担当したと説明している。1

公開された設計では、複数のチップを大規模なネットワーク領域で接続し、処理を一つのシステム内にとどめる。モデルの状態や、過去のトークン情報を保持するKVキャッシュもローカルに配置し、チップ間のデータ移動や通信待ちを抑える考え方だ。4

また、入力プロンプトを処理する「プリフィル」と、回答を1トークンずつ生成する「デコード」を、別々のリソース群に完全分離しない設計も特徴とされる。プリフィルは計算負荷が高く、デコードはメモリ帯域への依存が大きいため、計算・メモリ・ネットワーク資源を状況に応じて融通できるようにする狙いがある。4

一方、公開情報から分かるシステム仕様は限られている。技術報告の一つは、約128チップ、約1.7エクサFLOPS、HBM約27TBのシステムを説明しているが、OpenAIのベンチマーク記事だけではラック全体の部品構成までは確認できない。4

9カ月でテープアウト、設計にもAIを活用

OpenAIは、初期設計から半導体製造に回す「テープアウト」までを9カ月で完了したと説明している。高性能ASICの開発期間として、非常に短いサイクルだという。1

設計、実装の探索、測定、検証、算術回路の最適化、プログラミングにはOpenAIのモデルも使われた。OpenAIによれば、CodexとGPT-Astraを活用し、当初の計画にはなかった3つのオープンウェイトモデルを2カ月で高性能に対応させた。また、GPT-OSSのアテンションやMixture-of-Experts（専門家混合）ブロックの一部では、AIが生成した実装が従来の人手による実装より1.5～1.8倍高速だったという。ただし、これはモデル全体ではなく、特定ブロック単位の数値だ。4

数字を見るうえでの注意点

今回の試験には、SemiAnalysisが公開する推論ベンチマーク「InferenceX」が使われた。公称で入力8,000トークン、出力1,000トークンの単一ターン処理を前提に、リクエストを受けてから回答を返すまでを測定。ユーザー体験をそろえ、公開されたチップの消費電力で正規化している。47

Jalapeñoのパッケージ電力は700ワットとされる一方、OpenAIは今回の処理で測定した持続電力が550ワット以下だったと説明している。比較対象のGB200とGB300は、それぞれ1,200ワット、1,400ワットとして計算された。したがって、ワットあたりの優位性は、ワークロードや電力の数え方によって変わり得る。4

SemiAnalysisはOpenAIの研究所で実行を確認したが、ベンチマーク一式を自ら実行したわけではないとしている。また、単一ターンの8,000トークン入力／1,000トークン出力という条件では、長いコンテキスト、マルチターンのAIエージェント、リクエストの振り分け、プレフィックスキャッシュ、キャッシュ管理、データのオフロードなどを評価できないと注意を促している。これらは本番環境の性能を大きく左右する可能性がある。4

比較対象が時点に依存する点にも注意が必要だ。GB200とGB300はいずれも商用のBlackwell世代システムだが、Jalapeñoが本格展開される時期には、より新しいNvidia製品が比較対象として適切になる可能性がある。Nvidiaが公開するMLPerfのDeepSeek R1結果も、オフライン処理を測る別の方法論に基づくため、Jalapeñoのインタラクティブな「ユーザーあたりトークン数」と直接比較することはできない。24

Nvidiaを置き換えるのか

OpenAIはJalapeñoを学習向けには設計していない。モデル学習や一部の推論処理では、今後もNvidia、AMDなどのアクセラレーターに依存する方針だ。6

導入はまずOpenAI自身の計算インフラに限定され、2026年末までに小規模な展開を始め、2027年に容量を増やす計画とされる。第2世代は「開発がかなり進んでおり」、第3世代も形になり始めているという。46

外部へのチップ販売は予定していない。OpenAIのハードウェア部門幹部リチャード・ホー氏は、社内需要が大きく、外販を想定できないと説明した。6

GoogleのTPU、AmazonやMicrosoftの自社AIチップ、さらにAnthropicが進める社内チップ設計の取り組みと並び、JalapeñoはAI企業による垂直統合競争の一例となる。ただし現時点で示された優位性は、公開された条件におけるLLM推論に限った主張だ。NvidiaやAMDを全面的に置き換えるというより、OpenAIが自社サービス向けに特定の処理を効率化するための補完的な基盤と見るのが妥当だろう。46