近日,DeepSeek 官方进行了一波硬核的技术迭代,给 DeepSeek-V4(Flash 和 Pro 版本)安排上了全新的投机解码(Speculative Decoding)框架——DSpark。

值得注意的是,这次更新并没有改变模型本身的能力底座,而是纯拼“工程落地”,也就是在实实在在的线上流量中,让大语言模型(LLM)的推理速度原地起飞!除此之外,官方还顺手开源了一套全栈推测性解码框架 DeepSpec。既秀了肌肉,又给开发者们大发福利。

提速秘籍:让“草稿”飞起来

我们都知道,大模型在生成文本时通常是一个词一个词往外蹦的(也就是串行自回归),不仅慢,而且遇到高并发流量时极容易遭遇算力瓶颈。

DSpark 的核心思路就是近些年很火的**“推测性解码(投机解码)”**:引入一个轻量级的“草稿模型”,预先生成一堆候选 token(词),再交给目标大模型去批量验证。这样就把低效的“串行生成”变成了高效的“并行校验”,端到端延迟自然大幅降低。

不过听起来简单,但 DSpark 玩出了两套杀手锏新花样:

  • 半自回归生成(Semi-Autoregressive Generation):保留了高吞吐的并行优势,同时加入轻量级串行模块,专门用来理顺一波 token 之间的上下文关联,大大减少了之前的模型因为“草稿不连贯”而遭到的高拒绝率。
  • 硬件感知的置信度调度:以往系统通常会盲目地把生成的草稿全送去验证,一旦遇到高负载,那些大概率被拒的 token 纯属浪费宝贵算力。DSpark 用上了一个“置信度头”,精准评估每个 token 的存活概率。说白了就是把算力花在刀刃上,系统能根据吞吐量特征动态截断没用的词。

实战跑分:多领域全方位碾压

这套组合拳打下来,效果自然非常炸裂。官方在数学推理、代码生成、日常对话等多个测试领域中进行了对比,DSpark 把目前最先进的自回归模型 (Eagle3) 和 并行草稿模型 (DFlash) 按在地上摩擦。

直接看图表说话,以 Qwen3 系列(4B、8B、14B)目标模型为例,DSpark 的平均接受长度比 Eagle3 狠狠提升了 26.7% 到 30.9%,比 DFlash 提升了 16.3% 到 18.4%。

在最真实的生产环境、顶着海量用户的真实流量时,DSpark 同样稳如老狗。 相比前一代部署的基准(MTP-1),在维持相同吞吐量的情况下,DSpark 让用户的生成速度迎来了质的飞跃:

  • DeepSeek-V4-Flash 模型:单用户生成速度提升 60%—85%
  • DeepSeek-V4-Pro 模型:单用户生成速度提升 57%—78%

开发者福音:DeepSpec全面开源

除了给自家的线上业务疯狂提速,DeepSeek 也把这套方案背后的“基础设施”给开源了,也就是前面提到的 DeepSpec 代码库。

它包含了一整套从数据准备、模型训练到任务评估的标准工具链,目前不仅内置了 DSpark、DFlash 和 Eagle3 三种草稿模型算法,而且直接适配了 Qwen3 和 Gemma 系列大模型。这意味着如果企业或者研究人员想给自己的推理模型提速,再也不用从零开始“造轮子”搭基建了,直接在现成的框架上跑数据就行。

【编辑观察】 大模型赛道可以说是越来越卷了。卷完了各种榜单评分和千亿万亿参数量以后,“工程化落地”硬实力的比拼已经成了主旋律。DeepSeek 这波 DSpark 更新,简直就是给现存的算力瓶颈来了一次精准降维打击——推理层大提速,带来的不仅是用户肉眼可见的爽快体验,更是帮厂商省下了天文数字的服务器成本。加上配套设施说开源就开源的做事风格,这波我给满分。