OpenAI 在 Hot Chips 2026 上展示了其首款自研推理芯片 Jalapeño,测试显示其性能/功耗比在几乎所有场景下都优于英伟达的 Blackwell。这款芯片从设计到流片仅用 16 个月,由 OpenAI 与 Broadcom 联合研发,标志着 AI 算力格局的重大转变。

16 个月从零到流片:Jalapeño 的诞生

Jalapeño 的研发始于 2024 年,OpenAI 组建团队并与 Broadcom 合作,从设计到完成流片仅用了约 16 个月。这个速度在芯片行业堪称惊人,通常一款先进制程芯片的开发周期需要 2 到 3 年。OpenAI 能够如此快速推进,一方面得益于其明确的设计目标和高效的团队协作,另一方面也离不开 Broadcom 在芯片设计和制造方面的丰富经验。

Jalapeño 并非专门为 OpenAI 的模型定制,而是设计作为一种通用推理芯片。这意味着它需要适应多种模型架构和推理任务,而不是针对单一模型进行优化。这种通用性设计增加了芯片的适用范围,但也对架构设计提出了更高要求。OpenAI 选择通用推理芯片路线,可能是为了在未来的模型迭代中保持灵活性,避免芯片与特定模型绑定过紧。

性能/功耗比全面超越 Blackwell:测试数据怎么说

根据测试结果,在几乎所有场景下,Jalapeño 的性能/功耗比(perf/W)都优于英伟达的 Blackwell。性能/功耗比是衡量芯片能效的关键指标,它表示每瓦特功耗能完成多少计算任务。在 AI 推理场景中,能效直接关系到运营成本和部署密度。

虽然信号中没有给出具体的性能数据,但“几乎所有场景”这一表述表明,Jalapeño 在多种推理负载下都能保持能效优势。这可能得益于其架构设计上的创新,比如针对推理计算的特点优化了数据流和内存访问模式。相比之下,Blackwell 作为英伟达的旗舰产品,虽然在绝对性能上可能依然领先,但在能效上已被 Jalapeño 超越。

为什么 OpenAI 押注性能/功耗比而非绝对性能

OpenAI 在设计 Jalapeño 时,优先考虑性能/功耗比,而非绝对性能。原因在于,今天的 AI 公司主要受限于供电,而不是算力。增加电力供应比建更多数据中心面临更多限制,需要花费更多时间。数据中心需要大量的电力来运行 GPU 服务器,而电网容量、冷却系统等基础设施的扩展速度远跟不上算力需求的增长。

因此,在电力受限的情况下,提高能效意味着在同样的电力预算下可以运行更多的推理任务,从而提升整体吞吐量和营收。OpenAI 的这一策略反映了 AI 行业从“算力饥渴”向“能效优先”的转变。对于大规模部署 AI 服务的公司来说,每瓦特性能的提升直接转化为成本降低和竞争力增强。

英伟达的回应:Vera 芯片与电力供应的战略

英伟达在 Hot Chips 上介绍了其新芯片 Vera,并强调了电力供应的重要性,称这直接影响营收。这表明英伟达也意识到了能效和电力瓶颈的问题。Vera 芯片的发布可以看作是对 OpenAI 等自研芯片挑战的回应,英伟达试图通过新架构和制程优化来提升能效。

然而,英伟达面临的挑战是,其芯片需要兼顾训练和推理等多种场景,而 OpenAI 的 Jalapeño 专注于推理,可能在能效上更容易取得突破。此外,英伟达的客户(包括 OpenAI)同时也是其竞争对手,这种关系使得英伟达在芯片设计上需要平衡各方需求,而自研芯片则可以让 OpenAI 更灵活地针对自身需求进行优化。

自研芯片对 OpenAI 的成本与产品战略意味着什么

Jalapeño 的推出对 OpenAI 的成本控制具有重要意义。推理成本是 AI 公司运营成本的大头,尤其是在大规模部署模型时。通过使用自研芯片,OpenAI 可以减少对英伟达高价芯片的依赖,降低单位推理成本。性能/功耗比的提升意味着在相同电力消耗下可以处理更多请求,进一步摊薄成本。

在产品战略上,自研芯片让 OpenAI 能够更紧密地结合硬件和软件进行优化。例如,芯片可以针对 OpenAI 的模型架构进行微调,提升推理速度和效率。这有助于 OpenAI 在竞争激烈的 AI 市场中保持技术领先,并为其未来的产品路线图(如更复杂的多模态模型)提供硬件支撑。

AI 芯片竞争新格局:从英伟达一家独大到多元挑战

OpenAI 自研芯片的成功,标志着 AI 芯片市场从英伟达一家独大走向多元竞争。谷歌、亚马逊等科技巨头早已布局自研芯片,如谷歌的 TPU 和亚马逊的 Inferentia。OpenAI 的加入进一步加剧了竞争,这些自研芯片在特定场景下(如推理)可能比英伟达的通用 GPU 更具能效优势。

对于英伟达而言,这无疑是一个威胁。虽然英伟达在训练市场依然占据主导,但在推理市场,自研芯片的崛起可能蚕食其份额。英伟达需要加快创新步伐,同时可能调整其产品策略,比如推出更专注于推理的芯片。对于整个行业来说,多元化的芯片选择有助于降低对单一供应商的依赖,促进创新和成本下降。

未定之数:Jalapeño 的量产、生态与长期影响

尽管 Jalapeño 在测试中表现出色,但目前仍有许多未定之数。首先,量产时间尚未公布,从流片到大规模部署还需要时间,包括良率提升、封装测试等环节。其次,软件生态的成熟度是关键。一个芯片要发挥性能,需要完善的软件栈(如编译器、运行时库)支持,OpenAI 需要投入大量精力构建生态。

此外,Jalapeño 能否真正改变 AI 算力格局,还取决于其实际部署效果和成本。如果量产顺利且成本可控,它可能成为 OpenAI 的杀手锏,但若遇到良率或生态问题,则可能推迟其影响。英伟达也不会坐以待毙,其下一代芯片(如 Vera)可能带来新的能效提升。因此,Jalapeño 的长期影响尚待观察,但无疑为 AI 芯片竞争注入了新的变量。

参考来源