最新推出的 DSpine 并行推测解码方案拿到了并行推测解码领域 SOTA 结果,它把因果依赖关系注入草稿网络的每一层深度,解决传统并行草稿模型容易丢失 token 先后因果关系、草稿通过率低的痛点,在 SGLang 推理框架里跑通验证,对比标准自回归解码最高能实现 4 倍吞吐提升,这套方案配套代码、模型权重全部开源,还已经落地在腾讯 WorkBuddy 线上业务。之前主流的并行推测解码比如 DFlash,大多是在网络尾部做条件约束,浅层没法传递前后 token 的因果信息,很容易生成大量会被主模型驳回的草稿,拖慢整体速度;DSpine 采用层间门控相邻注入机制,在网络每一层都把前序 token 特征传给后序位置,让并行生成的草稿自带因果逻辑,草稿接受长度明显提升,在 Qwen3 系列模型上的多基准测试里全面超过 DFlash2、DSpark 等主流基线。
DSpine 方案核心指标对比
| 测试模型 | 对比基线 | 平均吞吐提升 | 最高加速倍数 |
|---|---|---|---|
| Qwen3-8B | DFlash2 | +11.1% | 4.01 倍(相对自回归) |
| Qwen3-4B | DSpark | +20.1% | - |
| Qwen3.8-27B Agent 专项版 | 自回归解码 | 并发 8 条件下 | 3.84 倍 |
因果依赖刻进草稿网络深度的实现思路
- 层内门控相邻注入:草稿网络每一层都做特征传递,前一个 token 的特征流入下一个 token,因果链条跟着网络深度逐层展开,而不是等到最后一层才补约束。
- 统一迁移空间:基于主模型输出嵌入构建统一空间,让层间注入和条件解码对齐,减少特征错位。
- 层嵌入监督训练:训练阶段直接监督浅层输出特征,让浅层也能产出可靠的预测信息。
- 融合核 + 过渡缓存:在 SGLang 内部做算子融合和缓存优化,保证并行推理开销可控。
和传统推测解码的差异
- 串行推测解码:逐个生成草稿 token,天然满足因果,但并行度差、速度上限低
- 旧版并行草稿(DFlash 类):一次性并行生成一整段草稿,速度快,但因果关系缺失,草稿容易被拒,接受长度偏低
- DSpine:保持全并行生成,同时在网络深度里内置因果依赖,兼顾并行速度和草稿准确率
落地与开源信息
- 适配框架:SGLang,属于可直接接入的扩展模块
- 开源内容:推理代码、配套草稿模型权重,项目主页公开
- 落地业务:腾讯 WorkBuddy,覆盖代码、网页、办公 Agent 场景
- 评测基准:数学、代码、对话 7 大基准,平均接受长度 7.83
需要留意的局限
- 提升幅度和模型、并发、任务类型强相关,不是所有场景都稳定跑到 4 倍
- 需要配套训练专用 DSpine 草稿模型,不能直接拿普通草稿模型替换
- 高并发长文本场景下,增益会有一定回落
【常见问题】
问题 1:DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源,DSpine 的 4 倍加速是对比哪个版本?
回答 1:DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源,4 倍是对比标准自回归解码,不是对比 DFlash、DSpark 这类其他推测解码方案。
问题 2:DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源,因果依赖刻进草稿网络深度到底解决了什么痛点?
回答 2:DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源,它解决旧并行草稿一次性生成 token 时丢失先后因果、草稿被主模型大量驳回的问题,提高草稿接受长度,把并行速度优势真正转化成吞吐收益。
问题 3:DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源,这套方案能不能直接在 SGLang 里拿来商用?
回答 3:DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源,代码和模型权重已经开源,并且已经落地腾讯 WorkBuddy 线上业务,开发者可以接入 SGLang 做测试和部署,需要搭配对应训练好的 DSpine 草稿模型。
【参考资料】
[2026-11-09](并行推测解码 SOTA!因果依赖刻进草稿网络深度,SGLang 吞吐最高达 4 倍,已开源)新浪财经
[2026-11-09](Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding)arXiv
[2026-11-09](DSpine 项目主页,并行推测解码新方案)DSPine-Project
[2026-11-09](SGLang 集成 DSpine 推测解码,Qwen3 系列实测提速)机器之心
【免责声明】
本文 DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源相关内容来自论文、项目主页、行业媒体公开评测整理,不同硬件、模型、并发任务下加速效果存在差异,不构成线上业务直接选型建议,实际部署效果请自行复现验证。
