HOPE 用二阶目标选择 Mixture-of-Experts 中要保留的专家，不再把每个专家的贡献看成彼此独立。研究覆盖三款最高 122B 参数的 MoE 模型和两套校准数据；在 50% 剪枝时平均排名第一，并在 agentic coding 上最明显地超过次优基线。SWE-bench Pro 的报告增益最高为 6.1%。实现通过 AWS 的 hybrid-model-factory 仓库提供。
HOPE 剪掉 MoE 专家并保住 agentic coding 表现
2026-09-17前沿观察TRIAL
HOPE 用二阶目标选择 Mixture-of-Experts 中要保留的专家，不再把每个专家的贡献看成彼此独立。研究覆盖三款最高 122B 参数的 MoE 模型和两套校准数据；在 50% 剪枝时平均排名第一，并在 agentic coding 上最明显地超过次优基线。SWE-bench Pro 的报告增益最高为 6.1%。实现通过 AWS 的 hybrid-model-factory 仓库提供。
本文来自既有扫描档案。迁移保留原判断，不代表在迁移时重新核验。
对你意味着什么
对自托管 MoE 模型的团队来说，专家剪枝可以缓解权重内存瓶颈，而不必重训整套模型。HOPE 表明，在长时程 agent 工作负载上，保留专家组合关系比静态短 benchmark 更重要。试验时应使用贴近自身工作负载的校准数据，并同时重测延迟、内存和质量。
前沿观察
公开材料与效果验证，分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| 方法 | 保留专家协作关系的二阶专家剪枝目标 |
|---|---|
| 模型 | 三款最高 122B 参数的 MoE 模型 |
| 校准 | Evol-CodeAlpaca 与 SWE-bench Verified 轨迹 |
| 剪枝结果 | 剪掉 50% 专家时平均排名第一 |
| Agentic 增益 | SWE-bench Pro 相对基线最高提升 6.1% |
技术影响 3
工程价值 4
采用信号 2
成熟度 2
验证成本 4
风险 3