OpenAI 联合博通发布 LLM 专用推理芯片 Jalapeño

今天大模型推理的成本和延迟依然是制约应用爆发的核心瓶颈。用通用GPU跑推理,就像用卡车送外卖,能跑但不是最优解,尤其在毫秒级响应和千亿参数规模下,性能和能效的浪费非常惊人。OpenAI 联合 Broadcom 发布的 Jalapeño 芯片,就是专门为终结这种“算力不匹配”的痛点而生的专用推理加速器。

Jalapeño 的核心解法是彻底的“软硬一体空白页”设计。它没有沿用任何通用计算架构,而是完全围绕 LLM 的推理特征来打造:从减少数据搬运、平衡计算与内存网络资源,到精准适配 OpenAI 自己跑在 GPT-5 上的 kernels 和 serving 模式。最终效果是实测能效比远超当前最强方案,且能将硬件利用率拉近理论极限。更夸张的是,整个设计到流片只用 9 个月,过程中甚至用 OpenAI 的模型来加速芯片设计与优化,形成了一个“AI 设计 AI 芯片”的正循环。

我的判断是,Jalapeño 最大的启示不在于一块芯片的性能参数,而在于它展示了“全栈整合”的绝对优势。当一家公司同时掌握模型、产品、集群和芯片时,每一层的优化都能为同一目标服务,这种协同效率是任何第三方硬件供应商都难以复制的。对行业而言,这预示着未来的 AI 算力竞争将从“谁造出了更强的 GPU”,转向 “谁能用软硬一体设计出最高效的模型执行引擎”。芯片不再是通用货架产品,而是模型公司的战略级武器。

OpenAI and Broadcom unveil LLM-optimized inference chip

查看原文