《腾讯优图 DSpine 开源把因果依赖刻进草稿网络每一层,SGLang 吞吐最高 4 倍》

我先联网检索这个 “并行推测解码 + 因果依赖草稿网络” 的最新开源方案。 先说答案:腾讯优图实验室联合上海交通大学、厦门大学提出的

DSpine 并行推测解码取得 SOTA,因果依赖嵌入草稿网络深度,SGLang 吞吐最高 4 倍且已开源

最新推出的 DSpine 并行推测解码方案拿到了并行推测解码领域 SOTA 结果,它把因果依赖关系注入草稿网络的每一层深度,解决传统并行草稿