在AI圈子里,一场“天下武功唯快不破”的内卷正在上演。

最近,硅谷最硬核的芯片分析机构 SemiAnalysis 爆了个大料:他们每月光是给 AI 工具交订阅费就烧到了年化 1000 万美元。其中大头花在了哪儿?Anthropic 的 Claude Opus 4.6 fast 模式。这个模式虽然比标准模式贵 6 倍,但吐字速度快了 2.5 倍!

更有意思的是,当更聪明、跑分全面碾压上一代指标的 Opus 4.7 推出时,工程师们居然集体抗议、拒绝升级。原因简单粗暴:4.7 没有 fast 模式。对于写代码、干活的生产力工具来说,大家宁可要一个“脑子稍微迟钝点,但手脚利索”的模型,也不想看着屏幕上一蹦一跳的加载动画发呆。

这场对极致速度的饥渴,直接把一家名为 Cerebras 的芯片公司推上了神坛——它刚以 560 亿美元的估值在纳斯达克上市,首日暴涨 68%。

“餐盘大”的怪物芯片,让 GPT 飙出变态速度

OpenAI 之前悄悄上线了 GPT-5.3-Codex-Spark。这是一个从完整版中“蒸馏”出来的 120B 参数量小模型,但它的生成速度达到了令人发指的 2000 token/秒!

对比一下,目前用英伟达 GPU 跑 GPT-5 一般在 130 token/秒左右,这直接拉开了一个数量级的差距。

让它跑得这么快的幕后黑手,正是 Cerebras 的 WSE-3 芯片。

半导体行业几十年来都是在一块硅晶圆上切出几十颗小芯片,各干各的。但 Cerebras 反其道而行之:我不切,我把整块晶圆当成一颗完整的芯片用!

这个“怪物”足足有 46,225 平方毫米,比英伟达最新的 B300 大了 58 倍,跟个西餐盘子差不多大。里面塞了 4 万亿个晶体管和 90 万个计算核心。

更恐怖的是它的内存池。GPU 走的是“大容量但相对慢”的高带宽内存(HBM)路线,而 WSE-3 只有 44GB 的 SRAM,但带宽飙到了逆天的 21PB/秒。

在 AI 推理(生成回答)时,每往外吐一个词,都要把模型数据从内存里完整读一次。如果把 GPU 比作一次拉大批乘客但起步停站都很慢的公交车,那 WSE-3 就是一次只坐一个人、但能随时把油门踩到底飞梭在赛道上的 F1 赛车。

这也就是为什么它在单批次生成的吐字表现上,可以如此逆天地霸榜。

就在上市前夜,Cerebras 的 CFO 甚至在采访中放了一张谁也没想到的底牌:“我们对模型大小没有限制,今天我们正在为 OpenAI 内部运行万亿参数的 GPT-5.4 和 GPT-5.5。”

扒一扒底裤:偏科生的“死穴”

听起来是不是已经可以拳打英伟达了?别急,SemiAnalysis 的万字长文无情地扒出了 Cerebras 的致命死穴。

没错,它是 F1 赛车,但它的油箱太小了。

片上 44GB 的 SRAM 对于 120B 以下的小模型绰绰有余,但在动辄上万亿参数的大模型(比如 1.6 万亿参数的 DeepSeek V4)面前根本不够看。光是极致压缩后的模型权重就要 490GB。

一块晶圆塞不下,那就切开用多块晶圆连起来跑?灾难来了。

大模型只要一切分,原本内部的高速狂飙立马变成了堵在跨海大桥上的早高峰。WSE-3 出于特殊的工艺限制,无法像英伟达那样大规模集成高速通信模块。它对外通信带宽只有 150GB/s,仅仅是英伟达单卡的六分之一。

这也难怪,在其官方云平台上,真正能端出来的生产级别也就是 120B 的小模型,曾短暂放出的更大模型后来都被默默撤下了。

此外,目前的构架导致它在应对长上下文时极其拉胯,最大只能支持 128K 的上下文窗口。但在如今的 Agent 时代下,经常需要丢给 AI 大量代码或是文档阅读,128K 很可能刚开局就会爆内存。

【编辑观察】OpenAI的算力“阳谋”

明明有这么致命的短板,OpenAI 为什么要豪掷巨资(送去246 亿美元订单锁定),甚至在合同里加上排他条款,禁止 Cerebras 卖给 Anthropic(Claude的母公司)等死对头?

答案很简单:AI 落地的终局玩法已经变了。将来 80% 的算力要消耗在推理上。

未来的推理任务,不需要靠单单一台全能的神仙机器硬撑,而是像工厂流水线一样按专长分工。OpenAI 构想的硬件拼图可能是这样的:

  • AWS Trainium 芯片:负责啃下用户超长的提示词前缀输入(预处理)
  • Cerebras WSE 芯片:接力,专属负责以极速生成文字结果,追求极致响应
  • 英伟达 GPU:干苦力活儿,专门在后台训练和搞定超长上下文理解

目前大火的 AI 程序员开发工具 Devin,已经用上了由 Cerebras 驱动的快跑模式,最高能摸到每秒 1000 个 token 的爽感。

当 OpenAI 把这一套“各司其职”的组合拳打磨完毕,在代码生成、日常提问上实现几乎无肉眼延迟的体验,同时把总成本压到极低时,其他还在靠昂贵的通用型 GPU 慢慢输出的对手,处境就会非常危险。工程师们急着要 Claude 给个“稍显弱智但风驰电掣”的 Fast 模式,其实就是打工人们在生产力需求下的用脚投票。