摘要
DCD(Decoupled Contrastive Decoding,解耦对比解码)采用 EAGLE3 风格的专家对齐草稿生成(expert-aligned drafting),相对原版对比解码提速 1.65–1.95 倍。代码已在 GitHub 开源。
为什么重要
对做推理加速的人来说,这是一篇验证成本低的论文:方法实用,代码开源,不用从头复现。
技术细节
| 加速比 | 1.65–1.95 倍(相对原版 contrastive decoding) |
|---|---|
| 代码 | github.com/chadlzx/dcd |
标签
decodingcontrastiveeagle3inference