一觉醒来,关于 OpenAI 的重磅消息满天飞!
除了坊间盛传 OpenAI 已完成代号「Bel」、参数规模超10万亿的新一轮预训练(据说将成为 Astra 或 GPT-6 的基础)之外,最确凿、也最让硬件圈震动的消息是:OpenAI的首款自研推理芯片,终于出成绩了!
就在刚刚,OpenAI 官方公布了自研推理芯片 Jalapeño(墨西哥辣椒) 的最新测试结果。这款专为大语言模型推理设计的芯片,通过全新架构打破了传统硬件的瓶颈,实现了“高吞吐量”与“低延迟”的鱼和熊掌兼得。
就连 CEO 也是一如既往地在 X 上用废话文学凡尔赛了一把:“我们造了个芯片,它跑得飞快。”
不练剑法专修内功:专为“推理”而生
需要划重点的是,Jalapeño 并不是用来给下一代 GPT 模型做“训练”的,而是专门针对模型上线后的“推理运行”阶段进行优化的。
简单粗暴地理解:训练阶段是让 AI 从零开始“学知识”,而推理阶段则是让 AI 在面对海量用户提问时“快问快答”。传统硬件往往面临一个两难的选择:
- 想一秒钟处理更多问题(高吞吐量),单次回答的等待时间就会变长;
- 想让用户秒收回复(极低延迟),又会导致计算资源的严重浪费。
而“墨西哥辣椒”的终极目标,就是在一套架构里把这俩指标全给拿下。
性能碾压?实测效率跑赢英伟达
是骡子是马,跑个分就知道。OpenAI 这次并没有藏着掖着,直接拉出了老大哥英伟达的 GB200 和 GB300 系统来做对比,并在三大公开模型上进行了实测:OpenAI GPT-OSS 120B、DeepSeek R1 670B、以及月之暗面的 Kimi K2.5 1T。
没错,Jalapeño 并不是只给 OpenAI 自家人开小灶,它同样能完美适配第三方的重磅大模型。
根据官方数据,在相同功耗下,Jalapeño 能干更多活,且回复更快: 在三大公开模型上,Jalapeño 在峰值吞吐量下实现了 1.5~1.9倍的每瓦性能提升,而端到端延迟更是降到了对比系统的约三分之一!
特别是在目前炙手可热的 DeepSeek R1 模型上,Jalapeño 的表现堪称恐怖:在对比系统此前最佳速度对应的条件下,这颗“墨西哥辣椒”每千瓦吞吐量达到了惊人的 12,258 mixed TPS/kW,相比英伟达 GB300 的 118,效率直接拉开了 104.3 倍的差距!
AI自己造芯片,为 Agent 时代铺路
有意思的是,这颗芯片的诞生,还真少不了 AI 本尊的帮忙。
可以说,Jalapeño 从一出生就是为了交互式 Agent(智能体)而设计的。由于 Agent 执行任务需要连续思考多个步骤,一点点延迟都会像滚雪球一样被无限放大。Jalapeño 将芯片、内存、网络进行了高度协同设计,死死咬住了低延迟这个痛点。
在开发过程中,OpenAI 使用 GPT-Astra 驱动的代码大模型参与了芯片算术电路的优化,从设计到流片定稿仅仅花了 9个月!部分生成的代码甚至比人类专家手写的还要快上 1.5 倍以上。真的是“我优化我自己”。
年底上机,但老黄依然是好基友
据悉,这次的 Jalapeño 芯片在硬件研发上得到了 Cerebras 的深度合作支持,可以说是双方强强联手的产物。
按照计划,OpenAI 预计在 2026 年底前将这款芯片部署到自家的计算数据中心,并且第二代和第三代架构已经在紧锣密鼓地开发中。
不过对于英伟达来说,这也未必是“世界末日”。OpenAI 明确表态,由于算力饥渴症还在持续蔓延,他们依然会继续大规模采购和部署英伟达的加速器,毕竟训练端目前还得指望老黄。
【编辑观察】 OpenAI 这波“墨西哥辣椒”的推出,标志着他们正式开始打通「模型—软件—芯片—数据中心」的垂直闭环。算力成本一直是制约 AI 大规模应用的最大紧箍咒。当大厂们纷纷下场造芯,未来的 AI 推理成本有望迎来断崖式下跌,也许我们距离真正的全民 Agent 时代,就差这一口“辣椒”了!





评论