摘要：OpenAI公布首款自研芯片Jalapeño的测试结果，该芯片运行三款公开模型时，峰值每瓦推理性能为英伟达GB200或GB300对比系统的1.5至1.9倍，完成请求所需的时间也有所缩短。Jalapeño计划于2026年底开始部署。

产联社编辑 | 黄钰慧

图片由AI生成

【产联社】大模型竞争正从模型能力延伸到芯片和数据中心。8月25日，OpenAI公布首款定制推理芯片Jalapeño的首批测试结果。按照OpenAI在SemiAnalysis公开基准InferenceX上的测试，该芯片运行GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T时，峰值每瓦推理性能为英伟达GB200或GB300对比系统的1.5至1.9倍，完成整个请求所需的时间缩短约1.7至3.6倍。

Jalapeño主要用于大模型完成训练后的推理阶段，也就是让已经训练好的模型根据用户要求生成回答或执行任务。OpenAI计划在2026年底前开始将Jalapeño部署到自有计算基础设施，以满足不断增长的AI计算需求。TechCrunch援引OpenAI硬件负责人Richard Ho的话称，2026年底的部署规模预计较小，更明显的部署增长将在2027年出现。

不过，这份成绩单并不意味着OpenAI已经在整个AI芯片领域超过英伟达。此次测试只涉及三款公开模型的推理表现，对比对象为英伟达GB200和GB300，没有出现Vera Rubin的同口径测试结果，也没有比较模型训练、通用计算和软件生态。更准确地说，Jalapeño在OpenAI公布的部分大模型推理测试中超过了英伟达GB200和GB300。

能效和响应速度成为主要看点

OpenAI希望让芯片在消耗较少电力的同时处理更多请求，并缩短用户等待模型回答的时间。

AI芯片服务大模型时，处理请求的数量和回答速度往往难以同时提高。增加同时处理的请求量，可能使单个用户等待更久。追求更快的单次响应，又可能牺牲芯片的整体使用效率。OpenAI称，Jalapeño采用同一套架构兼顾更高吞吐量和更低延迟，希望同时提高服务能力和响应速度。

根据OpenAI披露，Jalapeño额定功耗为700瓦，在此次测试负载中的持续实测功耗不超过550瓦。测试所采用的英伟达GB200和GB300额定功耗分别为1200瓦和1400瓦。OpenAI按照各款加速器公开的额定功耗进行统一换算，重点比较每消耗一单位电力可以完成多少推理工作。

这种比较方式与大模型服务的实际成本有关。大模型训练完成后，每次回答问题或执行任务仍需要调用计算资源。随着用户请求增加，服务器、电力和数据中心等方面的投入也会随之上升。OpenAI表示，提高每单位电力完成的有效工作量，有助于满足更多AI服务需求并降低完成任务的成本。

Richard Ho接受TechCrunch采访时称，Jalapeño可以用较高的效率服务大量客户，同时保持较低延迟。OpenAI也表示，如果相同的硬件和电力能够完成更多有效工作，公司就有机会让业务和收入的增长快于服务成本的增长。

目前，Jalapeño仍处在生产验证、软件完善和规模化运行准备阶段。OpenAI表示，部署前还将继续扩大测试模型范围并验证性能。TechCrunch称，Jalapeño预计于2026年底开始小规模部署，更明显的部署增长将在2027年出现。

OpenAI三款公开模型测试超过GB200、GB300

从OpenAI公布的结果看，Jalapeño运行三款公开模型时都取得了更高的每瓦推理性能和更短的响应时间，但这一优势只适用于本次测试范围。

OpenAI此次选择了三款规模不同的公开模型，包括自家的GPT-OSS 120B，以及DeepSeek R1 670B和月之暗面Kimi K2.5 1T。OpenAI称，这组测试覆盖公司内外不同来源的模型，主要比较不同芯片在推理阶段的用电效率和响应速度。

在GPT-OSS 120B测试中，Jalapeño的峰值每瓦推理性能约为英伟达GB200的1.9倍，完成整个请求所需的时间为1.03秒，GB200为1.80秒。

在DeepSeek R1 670B测试中，Jalapeño的峰值每瓦推理性能约为英伟达GB300的1.7倍，完成请求所需的时间为1.65秒，GB300为5.99秒。运行Kimi K2.5 1T时，Jalapeño的峰值每瓦推理性能约为GB300的1.5倍，完成请求所需的时间为1.56秒，GB300为5.31秒。

综合三款模型，OpenAI称Jalapeño的峰值每瓦推理性能为对比系统的1.5至1.9倍，完成整个请求所需的时间缩短约1.7至3.6倍。在需要频繁交互的测试负载中，OpenAI披露的性能优势为2.1至4.1倍。

需要说明的是，这是一份由OpenAI公布的测试成绩。InferenceX是SemiAnalysis提供的公开基准，但具体数据和结论来自OpenAI，不能表述为SemiAnalysis独立完成的第三方评测。

本次测试也没有覆盖AI芯片的全部能力。Jalapeño主要服务大模型推理，OpenAI公布的对比没有涉及前沿模型训练、通用计算和软件生态，也没有提供Jalapeño与Vera Rubin的同口径测试结果。TechCrunch指出，到Jalapeño扩大部署时，市场上的竞争产品可能已经继续迭代。因此，目前只能确认Jalapeño在此次公布的推理测试中取得优势，不能据此判断其整体能力已经超过英伟达全部产品。

更省电、响应更快，AI服务成本有望下降

Jalapeño值得关注的，不只是测试数字，还包括同样的电力能否支持更多业务，以及AI完成任务能否更快。

OpenAI指出，智能体通常需要连续完成多个步骤，单个环节的延迟会在整个任务中不断累积。由此来看，客服助手、代码工具或办公智能体如果需要连续查询信息、调用工具并生成结果，每个步骤的响应速度都会影响整个任务的完成时间。

OpenAI称，Jalapeño在设计中尽量减少数据在芯片内部和不同芯片之间的移动。通俗地说，芯片会尽可能把模型需要使用的数据留在更靠近计算单元的位置，减少等待数据传输的时间。OpenAI认为，这种设计可以让芯片更好地适应大模型生成回答时不同阶段的计算需求。

这一变化首先关系到数据中心的电力和设备投入。芯片之外，运行AI还需要电力、散热、机架和网络等配套设施。如果每单位电力可以完成更多推理工作，数据中心就有可能在既有电力条件下承接更多请求。OpenAI称，这有助于提高服务效率并降低完成一次有效任务的成本。

更短的响应时间则与交互式智能体关系更密切。传统批量任务可以等待系统集中处理，智能体则需要连续完成多个步骤。OpenAI表示，Jalapeño在低延迟条件下仍能保持较高处理效率，可以减少任务不同步骤之间的等待。

不过，这种效率提升是否会进一步带来API或企业服务降价，目前还没有明确答案。OpenAI在此次公告中没有公布Jalapeño的对外销售计划，也没有披露基于该芯片的服务价格、客户开放范围和实际成本降幅。因此，现阶段可以确认的是Jalapeño在测试中展现出的效率优势，不能据此断言OpenAI将降低相关产品价格。

三款公开模型的测试结果也不意味着企业目前已经可以直接采购或使用Jalapeño。OpenAI本次公布的是将该芯片部署到自有计算基础设施的计划，没有说明是否会把芯片直接销售给外部企业。Jalapeño将优先用于哪些产品、是否会通过服务形式向企业开放，以及实际业务能否取得与测试相近的效果，仍有待OpenAI后续披露。

自研不等于替代，英伟达仍是关键供应商

Jalapeño让OpenAI多了一种自有推理算力选择，但OpenAI仍将继续使用英伟达和其他合作伙伴的加速器。

OpenAI并未把Jalapeño定位成结束外部芯片采购的替代方案。公司在官方技术文章中表示，持续增长的AI需求需要来自不同渠道的更多算力，未来仍将在训练和推理领域广泛部署英伟达及其他合作伙伴的加速器。

Richard Ho接受媒体采访时也表示，OpenAI对算力的需求规模庞大，与不同供应商合作的状态还会持续一段时间。TechCrunch则指出，此次测试比较的是英伟达Blackwell系统，而到Jalapeño扩大部署时，英伟达的产品可能已经进一步迭代。

Jalapeño更直接的意义，是让OpenAI能够围绕自身的大模型服务需求设计芯片，并把模型、推理软件、芯片、内存、网络和整套系统放在一起优化。OpenAI称，这种从模型到硬件的协同设计，可以根据真实工作负载改进不同环节，提高整个推理系统的效率。

OpenAI还把AI模型用于Jalapeño的研发。公司称，从初始设计到流片用了九个月，AI模型参与了方案探索、测量和验证，并帮助优化部分芯片电路。OpenAI还使用Codex和GPT-Astra，在两个月内完成三款开放权重模型的高性能适配。

在部分GPT-OSS注意力和混合专家模块中，OpenAI称AI生成的实现比原有人类专家编写的版本快1.5至1.8倍。OpenAI同时强调，这一结果只适用于经过测试的部分模块，不能理解为整款模型的运行速度提高了1.5至1.8倍。

Jalapeño也是OpenAI多代芯片计划的第一代产品。OpenAI表示，第二代芯片已经进入深入开发阶段，第三代产品也已开始成形，后续产品将继续提高推理效率和速度。

因此，OpenAI与英伟达短期内并不是简单的替代关系。英伟达及其他供应商仍将为OpenAI提供训练和推理所需的加速器，Jalapeño则让OpenAI在部分推理任务上增加了一种定制芯片选择。它能否进一步改变OpenAI的芯片采购结构和AI芯片市场竞争格局，还要看实际部署规模、运行效果、软件成熟度和后续产品进展。

商务合作/报料请联系侯经理 18801065284（微信同号）