OpenAI公布的首批Jalapeño详细测试结果，提出了一个明确但范围有限的结论：在特定的大语言模型推理任务中，这款自研芯片可能以更低功耗、更低响应延迟运行，相比测试所用的英伟达GB200和GB300系统表现更好。

在SemiAnalysis公开的InferenceX基准测试中，OpenAI称Jalapeño在三个开源权重模型上实现了1.5至1.9倍的单位功耗AI工作量，并将端到端延迟降低1.7至3.6倍。

对于需要大规模处理AI请求的OpenAI来说，这一结果意义不小。但它并不等于Jalapeño已经证明自己是所有场景下更快、更便宜的GPU替代品。测试负载相对固定，芯片也只针对推理设计，而且主要数据由OpenAI使用工程样片生成。14

核心测试结果是什么？

OpenAI使用SemiAnalysis的InferenceX进行对比。该基准测试试图衡量一次AI请求从开始处理到完成返回的完整服务过程，而不只是芯片的理论算力。OpenAI还根据各加速器公布的芯片功耗，对能效数据进行了标准化处理。

OpenAI报告的主要结果包括：

• 在峰值吞吐量下，Jalapeño每瓦完成的AI工作量是参与对比的英伟达系统的1.5至1.9倍。
• 端到端延迟降低1.7至3.6倍。
• 在OpenAI选定的高交互性工作点上，性能提高2.1至4.1倍。4

在提供的结果中，最大延迟差距出现在DeepSeek R1 670B测试：Jalapeño完成一次请求需要1.65秒，而基于GB300的系统需要5.99秒。1112

需要注意的是，这些是相对基准结果，并不是对ChatGPT实际响应时间或API价格的承诺。真实表现还会受到模型类型、推理软件、批处理方式、网络、上下文长度、输出长度，以及服务方更看重延迟还是吞吐量等因素影响。

测试了哪些模型和负载？

本次测试覆盖三个公开可用的开源权重模型：

模型	对比的英伟达系统	Jalapeño报告结果
GPT-OSS 120B	GB200	单位功耗工作量约为1.9倍；端到端延迟为1.03秒，对比系统为1.80秒
DeepSeek R1 670B	GB300	单位功耗工作量约为1.7倍；端到端延迟为1.65秒，对比系统为5.99秒
Kimi K2.5 1T	GB300	单位功耗工作量约为1.5倍；端到端延迟为1.56秒，对比系统为5.31秒

上述数字来自已公布的测试摘要，并非一套由外部机构完整复现的全量测试。61112

测试负载名义上是单轮请求，输入8,000个Token、输出1,000个Token。这样的设定有助于控制变量，但并不能代表所有AI服务流量，也没有回答多轮对话、工具调用、智能体工作流、不同长度回复、批处理，或超长上下文请求下会发生什么。813

此外，基准测试对应的是特定软硬件配置。编译器、算子内核、量化方案、调度方式、模型架构，甚至英伟达运行时软件的变化，都可能改变双方差距。

Jalapeño的机架级规格如何？

Jalapeño是一款由OpenAI与博通共同开发的专用集成电路（ASIC），用于大语言模型推理。与可处理多种任务的通用GPU不同，ASIC通常围绕较明确的工作目标进行定制；这里的目标就是运行训练完成的模型并生成回答。15

据报道，其系统级规格包括：

• 每个机架级系统配备128颗加速芯片。
• 约1.7 exaFLOPS的4-bit计算能力。
• 整个系统配备约27 TB高带宽内存（HBM）。
• 单芯片额定功耗为700瓦；作为比较，GB200和GB300加速器公布的额定功耗分别为1,200瓦和1,400瓦。121419

在芯片层面，报告中的B0版本采用台积电N3P工艺制造的掩模版尺寸级计算裸片，额定提供13.4 PFLOPS的MXFP4计算能力。18

这种设计并不只是追求单颗芯片的峰值算力。对于需要将超大模型拆分到多颗芯片上的推理任务，内存容量、芯片间互联、网络和机架内部通信同样关键。因此，Jalapeño更像是一个面向整机和机架的推理平台，而不只是单独出售的加速器。1819

九个月完成设计，AI到底参与了多少？

据报道，OpenAI与博通从概念阶段推进到流片，大约用了九个月，对于高性能定制芯片而言，这是相当短的开发周期。720

AI辅助工程参与了设计过程，但这并不意味着某个AI模型独立完成了处理器的设计与制造。报道显示，芯片架构和工程工作仍由人类团队负责，同时还涉及博通的半导体实现能力、制造合作伙伴以及系统集成工作。713

更稳妥的理解是：OpenAI将自己对大语言模型工作负载的认识，与工程流程中的AI工具结合起来，围绕一个较窄的推理目标协同设计硬件和软件。这样的专业化有助于提升效率，但也意味着它不像可编程GPU那样灵活。

为什么Jalapeño只做推理？这意味着什么？

Jalapeño的任务是运行已经训练好的模型，而不是训练新的前沿模型。因此，OpenAI仍然需要可编程加速器，尤其是GPU，用于模型训练、研究、实验，以及那些不适合固定化推理架构的工作负载。813

这也限定了“击败英伟达”这句话的含义。Jalapeño可以在部分推理指标上超过被测试的英伟达配置，但英伟达硬件仍可能是OpenAI计算基础设施中不可或缺的一部分。专用ASIC可以在一个稳定、规模巨大、重复性高的任务上表现出色，却不一定能够替代支持模型训练、快速迭代和多样化实验的通用平台。

这次基准测试没有证明什么？

这组结果更准确的解读是：“在这些公布的测试中表现更好”，而不是**“整体上是最好的AI系统”**。以下限制尤其值得关注：

• 测试采用固定、相对简单的单轮负载，并非生产环境中全部类型的AI流量。1112
• 公布数据来自OpenAI在工程样片上的测试；与SemiAnalysis相关的报道提到，其工程师曾在OpenAI实验室现场核验运行，但基础数字仍由OpenAI提供。214
• 能效数据使用公开的芯片额定功耗进行标准化。这有助于比较，但不等同于完整的数据中心能源、散热、网络和总拥有成本分析。11
• 随着编译器、内核、运行时、量化、批处理、网络、调度以及英伟达软件更新，测试差距可能发生变化。
• 这次对比没有覆盖所有更新或即将推出的加速器，包括英伟达Blackwell之后的产品，以及Google、亚马逊、微软、AMD等公司的最新系统。238

因此，目前没有足够依据据此宣称OpenAI的AI推理成本将普遍下降50%、API价格必然降低，或英伟达会立即被淘汰。现有证据支持的是特定条件下的性能与能效主张，而不是更广泛的商业结论。

OpenAI何时部署Jalapeño？

OpenAI计划在2026年底前后开始将Jalapeño部署到自有基础设施中，并预计在2027年进入规模化生产和更广泛的部署阶段。长期计划是在微软及其他基础设施合作伙伴参与下，建设覆盖多代芯片的吉瓦级数据中心。16

这款芯片主要服务OpenAI内部需求，而不是作为通用处理器对外销售。因此，外部企业不应根据这些公告预期购买Jalapeño硬件，或很快租用公开的Jalapeño云实例。16

内部使用让OpenAI能够围绕自己的模型、算子内核和推理系统优化芯片，也避免了成为传统芯片供应商后必须承担的软件支持、客户竞争、销售渠道和生态建设等责任。这些是基于部署模式的战略分析；目前得到确认的计划是内部部署，而非对外销售芯片。16

Jalapeño在AI芯片竞争中处于什么位置？

Jalapeño更适合被视为OpenAI全栈计算组合中的一部分，而不是一场简单的GPU替代行动。OpenAI的策略同时包括：利用微软及其他云基础设施，使用英伟达级别的GPU处理训练和需要灵活性的任务，并在稳定、高并发的推理场景中引入定制芯片。OpenAI公布的计算合作组合还包括AWS、AMD、博通、Cerebras、CoreWeave、Oracle、SB Energy和软银等。

这种做法也符合整个行业的趋势：Google在开发TPU，亚马逊提供Trainium和Inferentia，微软拥有Maia，AMD以通用AI GPU参与竞争，而英伟达仍然提供最成熟、可编程性较强的AI计算系统。Anthropic也正通过云合作关系推进更定制化的基础设施，但现有测试证据并没有提供其系统与Jalapeño之间的直接性能比较。

短期来看，Jalapeño的战略影响比“GPU被替代”更复杂。它可能帮助OpenAI提高对推理成本、响应延迟、芯片供应和硬件路线图的控制力；与此同时，英伟达硬件仍对模型训练和灵活研究至关重要。对于OpenAI而言，Jalapeño更像是针对稳定、高量推理需求的一把专用工具，而不是整个计算栈的替代方案。813

OpenAI公布的首批Jalapeño详细测试结果，提出了一个明确但范围有限的结论：在特定的大语言模型推理任务中，这款自研芯片可能以更低功耗、更低响应延迟运行，相比测试所用的英伟达GB200和GB300系统表现更好。

在SemiAnalysis公开的InferenceX基准测试中，OpenAI称Jalapeño在三个开源权重模型上实现了1.5至1.9倍的单位功耗AI工作量，并将端到端延迟降低1.7至3.6倍。

对于需要大规模处理AI请求的OpenAI来说，这一结果意义不小。但它并不等于Jalapeño已经证明自己是所有场景下更快、更便宜的GPU替代品。测试负载相对固定，芯片也只针对推理设计，而且主要数据由OpenAI使用工程样片生成。14

核心测试结果是什么？

OpenAI使用SemiAnalysis的InferenceX进行对比。该基准测试试图衡量一次AI请求从开始处理到完成返回的完整服务过程，而不只是芯片的理论算力。OpenAI还根据各加速器公布的芯片功耗，对能效数据进行了标准化处理。

OpenAI报告的主要结果包括：

• 在峰值吞吐量下，Jalapeño每瓦完成的AI工作量是参与对比的英伟达系统的1.5至1.9倍。
• 端到端延迟降低1.7至3.6倍。
• 在OpenAI选定的高交互性工作点上，性能提高2.1至4.1倍。4

在提供的结果中，最大延迟差距出现在DeepSeek R1 670B测试：Jalapeño完成一次请求需要1.65秒，而基于GB300的系统需要5.99秒。1112

需要注意的是，这些是相对基准结果，并不是对ChatGPT实际响应时间或API价格的承诺。真实表现还会受到模型类型、推理软件、批处理方式、网络、上下文长度、输出长度，以及服务方更看重延迟还是吞吐量等因素影响。

测试了哪些模型和负载？

本次测试覆盖三个公开可用的开源权重模型：

模型	对比的英伟达系统	Jalapeño报告结果
GPT-OSS 120B	GB200	单位功耗工作量约为1.9倍；端到端延迟为1.03秒，对比系统为1.80秒
DeepSeek R1 670B	GB300	单位功耗工作量约为1.7倍；端到端延迟为1.65秒，对比系统为5.99秒
Kimi K2.5 1T	GB300	单位功耗工作量约为1.5倍；端到端延迟为1.56秒，对比系统为5.31秒

上述数字来自已公布的测试摘要，并非一套由外部机构完整复现的全量测试。61112

测试负载名义上是单轮请求，输入8,000个Token、输出1,000个Token。这样的设定有助于控制变量，但并不能代表所有AI服务流量，也没有回答多轮对话、工具调用、智能体工作流、不同长度回复、批处理，或超长上下文请求下会发生什么。813

此外，基准测试对应的是特定软硬件配置。编译器、算子内核、量化方案、调度方式、模型架构，甚至英伟达运行时软件的变化，都可能改变双方差距。

Jalapeño的机架级规格如何？

Jalapeño是一款由OpenAI与博通共同开发的专用集成电路（ASIC），用于大语言模型推理。与可处理多种任务的通用GPU不同，ASIC通常围绕较明确的工作目标进行定制；这里的目标就是运行训练完成的模型并生成回答。15

据报道，其系统级规格包括：

• 每个机架级系统配备128颗加速芯片。
• 约1.7 exaFLOPS的4-bit计算能力。
• 整个系统配备约27 TB高带宽内存（HBM）。
• 单芯片额定功耗为700瓦；作为比较，GB200和GB300加速器公布的额定功耗分别为1,200瓦和1,400瓦。121419

在芯片层面，报告中的B0版本采用台积电N3P工艺制造的掩模版尺寸级计算裸片，额定提供13.4 PFLOPS的MXFP4计算能力。18

这种设计并不只是追求单颗芯片的峰值算力。对于需要将超大模型拆分到多颗芯片上的推理任务，内存容量、芯片间互联、网络和机架内部通信同样关键。因此，Jalapeño更像是一个面向整机和机架的推理平台，而不只是单独出售的加速器。1819

九个月完成设计，AI到底参与了多少？

据报道，OpenAI与博通从概念阶段推进到流片，大约用了九个月，对于高性能定制芯片而言，这是相当短的开发周期。720

AI辅助工程参与了设计过程，但这并不意味着某个AI模型独立完成了处理器的设计与制造。报道显示，芯片架构和工程工作仍由人类团队负责，同时还涉及博通的半导体实现能力、制造合作伙伴以及系统集成工作。713

更稳妥的理解是：OpenAI将自己对大语言模型工作负载的认识，与工程流程中的AI工具结合起来，围绕一个较窄的推理目标协同设计硬件和软件。这样的专业化有助于提升效率，但也意味着它不像可编程GPU那样灵活。

为什么Jalapeño只做推理？这意味着什么？

Jalapeño的任务是运行已经训练好的模型，而不是训练新的前沿模型。因此，OpenAI仍然需要可编程加速器，尤其是GPU，用于模型训练、研究、实验，以及那些不适合固定化推理架构的工作负载。813

这也限定了“击败英伟达”这句话的含义。Jalapeño可以在部分推理指标上超过被测试的英伟达配置，但英伟达硬件仍可能是OpenAI计算基础设施中不可或缺的一部分。专用ASIC可以在一个稳定、规模巨大、重复性高的任务上表现出色，却不一定能够替代支持模型训练、快速迭代和多样化实验的通用平台。

这次基准测试没有证明什么？

这组结果更准确的解读是：“在这些公布的测试中表现更好”，而不是**“整体上是最好的AI系统”**。以下限制尤其值得关注：

• 测试采用固定、相对简单的单轮负载，并非生产环境中全部类型的AI流量。1112
• 公布数据来自OpenAI在工程样片上的测试；与SemiAnalysis相关的报道提到，其工程师曾在OpenAI实验室现场核验运行，但基础数字仍由OpenAI提供。214
• 能效数据使用公开的芯片额定功耗进行标准化。这有助于比较，但不等同于完整的数据中心能源、散热、网络和总拥有成本分析。11
• 随着编译器、内核、运行时、量化、批处理、网络、调度以及英伟达软件更新，测试差距可能发生变化。
• 这次对比没有覆盖所有更新或即将推出的加速器，包括英伟达Blackwell之后的产品，以及Google、亚马逊、微软、AMD等公司的最新系统。238

因此，目前没有足够依据据此宣称OpenAI的AI推理成本将普遍下降50%、API价格必然降低，或英伟达会立即被淘汰。现有证据支持的是特定条件下的性能与能效主张，而不是更广泛的商业结论。

OpenAI何时部署Jalapeño？

OpenAI计划在2026年底前后开始将Jalapeño部署到自有基础设施中，并预计在2027年进入规模化生产和更广泛的部署阶段。长期计划是在微软及其他基础设施合作伙伴参与下，建设覆盖多代芯片的吉瓦级数据中心。16

这款芯片主要服务OpenAI内部需求，而不是作为通用处理器对外销售。因此，外部企业不应根据这些公告预期购买Jalapeño硬件，或很快租用公开的Jalapeño云实例。16

内部使用让OpenAI能够围绕自己的模型、算子内核和推理系统优化芯片，也避免了成为传统芯片供应商后必须承担的软件支持、客户竞争、销售渠道和生态建设等责任。这些是基于部署模式的战略分析；目前得到确认的计划是内部部署，而非对外销售芯片。16

Jalapeño在AI芯片竞争中处于什么位置？

Jalapeño更适合被视为OpenAI全栈计算组合中的一部分，而不是一场简单的GPU替代行动。OpenAI的策略同时包括：利用微软及其他云基础设施，使用英伟达级别的GPU处理训练和需要灵活性的任务，并在稳定、高并发的推理场景中引入定制芯片。OpenAI公布的计算合作组合还包括AWS、AMD、博通、Cerebras、CoreWeave、Oracle、SB Energy和软银等。

这种做法也符合整个行业的趋势：Google在开发TPU，亚马逊提供Trainium和Inferentia，微软拥有Maia，AMD以通用AI GPU参与竞争，而英伟达仍然提供最成熟、可编程性较强的AI计算系统。Anthropic也正通过云合作关系推进更定制化的基础设施，但现有测试证据并没有提供其系统与Jalapeño之间的直接性能比较。

短期来看，Jalapeño的战略影响比“GPU被替代”更复杂。它可能帮助OpenAI提高对推理成本、响应延迟、芯片供应和硬件路线图的控制力；与此同时，英伟达硬件仍对模型训练和灵活研究至关重要。对于OpenAI而言，Jalapeño更像是针对稳定、高量推理需求的一把专用工具，而不是整个计算栈的替代方案。813