摘要
Jalapeño 是 OpenAI 的第一颗自研推理芯片，与 Broadcom 合作设计（6 月 24 日首发，TSMC 3nm，借助 AI 约九个月完成设计）。8 月 25 日在 Hot Chips 上，OpenAI 给出公开的 SemiAnalysis InferenceX 基准首批结果：对比 Nvidia GB200 与 GB300 系统，Jalapeño 峰值每瓦多完成 1.5-1.9 倍的 AI 工作，端到端延迟低 1.7-3.6 倍，交互式负载性能高 2.1-4.1 倍（对比负载：GB200 跑 GPT-OSS，GB300 跑 DeepSeek R1 与 Kimi K2.5）。芯片额定 700W，生产档持续功耗不超过 550W。AI 生成的 kernel 在部分模块上比人类专家快 1.5-1.8 倍。计划 2026 年底以很小批量首次部署，后续有第二代、第三代路线图；Nvidia GPU 仍是 OpenAI 算力的主体。
为什么重要
数字由厂商发布，但跑在公开、独立定义的基准上，比大多数芯片发布更可验证。如果每瓦优势在部署后保持，OpenAI 自有推理成本曲线将与 Nvidia 定价脱钩，也意味着第一代 LLM 推理专用 ASIC 已经在能效上超过当前旗舰 GPU。基础设施团队应等年底部署与第二代扩展数据出来，再下架构结论。
技术细节
| 基准 | SemiAnalysis InferenceX（方法学公开）；对照系统为 Nvidia GB200（跑 GPT-OSS）与 GB300（跑 DeepSeek R1、Kimi K2.5） |
|---|---|
| 结果 | 峰值每瓦 AI 工作量 1.5-1.9 倍；端到端延迟低 1.7-3.6 倍；交互式负载性能高 2.1-4.1 倍 |
| 功耗 | 额定 700W；生产档持续 <=550W |
| 设计 | 与 Broadcom 合作；2026-06-24 首发；TSMC 3nm；借 AI 约 9 个月完成设计；AI 生成 kernel 在选定模块上比人类专家快 1.5-1.8 倍 |
| 部署 | 2026 年底很小批量首 deploy；有 Gen2/Gen3 路线图；OpenAI 算力主体仍是 Nvidia GPU |
| 场合 | Hot Chips 2026，2026-08-25 |
标签
inference-chipcustom-siliconbroadcombenchmarkinference-infrastructure