摘要

DCD(Decoupled Contrastive Decoding,解耦对比解码)采用 EAGLE3 风格的专家对齐草稿生成(expert-aligned drafting),相对原版对比解码提速 1.65–1.95 倍。代码已在 GitHub 开源。

为什么重要
对做推理加速的人来说,这是一篇验证成本低的论文:方法实用,代码开源,不用从头复现。
技术细节
加速比 1.65–1.95 倍(相对原版 contrastive decoding)
代码 github.com/chadlzx/dcd
标签
decodingcontrastiveeagle3inference