一套在 RL 后训练期间在线共同训练 draft 模型的端到端系统：把 rank 本地分支注意力合并进紧凑的锯齿环形注意力（上下文并行），另经独立的 TapChannel 通路跨流水线阶段传递目标模型中间特征。该系统在 122B 规模模型上实现显著的 rollout 与端到端加速，并在 256K token 下具备强上下文并行扩展性。代码可用（论文内给出链接）。
推测解码进入 122B 规模的 RL rollout
2026-09-10前沿观察TRIAL
一套在 RL 后训练期间在线共同训练 draft 模型的端到端系统：把 rank 本地分支注意力合并进紧凑的锯齿环形注意力（上下文并行），另经独立的 TapChannel 通路跨流水线阶段传递目标模型中间特征。该系统在 122B 规模模型上实现显著的 rollout 与端到端加速，并在 256K token 下具备强上下文并行扩展性。代码可用（论文内给出链接）。
本文来自既有扫描档案。迁移保留原判断，不代表在迁移时重新核验。
对你意味着什么
RL 后训练的成本大头是 rollout 生成，而长上下文 rollout 一直最难加速。这项工作证明推测解码机制能在真实分布式训练栈里、在多数团队跑不动的规模与上下文长度上活下来。
前沿观察
公开材料与效果验证，分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| ArXiv | 2609.07108（9 月 9 日周三 digest，2026-09-10T00:00Z 宣告） |
|---|---|
| 机制 | RL 期间在线 draft 共同训练；rank 本地分支注意力 → 紧凑锯齿环形注意力（上下文并行）；TapChannel 跨流水线阶段传目标中间特征 |
| 结果 | 122B 规模显著的 rollout 与端到端加速；256K token 强上下文并行扩展 |
| 代码 | 可用（论文内链接） |
技术影响 4
工程价值 3
采用信号 2
成熟度 2
验证成本 4
风险 2