
作者 OpenAI
Jalapeño 首次结果展示 AI 推理领域领先的速度与效率(在新标签页打开)
推荐理由
OpenAI 公布首款定制推理芯片 Jalapeño 的初步结果:在 GPT-OSS 120B、DeepSeek R1 670B 与 Kimi K2.5 1T 上,每瓦 AI 工作量提升 1.5 至 1.9 倍,端到端延迟降低 1.7 至 3.6 倍。AI 还把芯片从初始设计推进到 tapeout 的周期压到 9 个月,并让部分注意力与 MoE 内核比人类专家实现快 1.5 至 1.8 倍。这是一份关于「智能如何被制造得更便宜」的全栈样本,也说明模型、芯片、编译和服务软件正在形成彼此加速的开发循环。关注推理成本和算力竞争的读者,可以从中看到下一阶段价格下降的工程来源。
OpenAI 报告了 Jalapeño 的初步结果,这是其首款用于 AI 推理的定制硅。在公开 InferenceX 基准测试中,使用模型 GPT‑OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T,Jalapeño 每瓦 AI 工作量提升 1.5–1.9×,端到端延迟降低 1.7–3.6×,且在高度交互式工作负载中性能最高可提升 4.1×。该芯片架构围绕语言模型工作负载共同设计计算、内存、网络和软件,最小化数据移动,使得预填充和解码两阶段均表现出色。AI 在芯片开发中直接发挥作用,将设计周期缩短至九个月完成 tapeout,并生成的 AI 内核在选定的注意力和 MoE 模块上优于人类专家版本。作为多代路线图的第一代,Jalapeño 为未来世代奠定基础,随着模型规模和代理式工作负载增长,将进一步提升效率与速度。


























