← 事件库 / Research

DARTree:自回归草稿树让推测扩散解码无损提速 9.73 倍

论文把预训练的自回归修正头从单链扩展到树结构,全程免训练,用于扩散推测解码(diffusion speculative decoding)。定宽候选树按深度在一个批次内打分,配合 best-first 剪枝。单轮验证最多接收 12.97 个 token,比 DFlash 高 98.6%,比 Domino 高 27.9%,在 7 个 benchmark 上最高实现 9.73 倍无损加速。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

对维护 vLLM、SGLang 这类推理栈的人来说,如果结果可复现,这是一项有实质价值的加速技术。目前没有代码仓库,先观望复现情况。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

论文把预训练的自回归修正头从单链扩展到树结构,全程免训练,用于扩散推测解码(diffusion speculative decoding)。定宽候选树按深度在一个批次内打分,配合 best-first 剪枝。单轮验证最多接收 12.97 个 token,比 DFlash 高 98.6%,比 Domino 高 27.9%,在 7 个 benchmark 上最高实现 9.73 倍无损加速。

技术细节与六维评分
单轮接收 Token 数 12.97
加速比 9.73x 无损
代码 未列出
技术影响 4
工程价值 3
采用信号 1
成熟度 1
验证成本 4
风险 2