Dory1.0-4B 多种权重已公开,可从同一 checkpoint 选择循环深度。
NVIDIA 发布可调循环深度的 Dory1.0-4B
2026-10-17已核实动态TRIAL
NVIDIA 发布 4B 参数的 Dory1.0-4B 开放权重,同一 checkpoint 可运行一、二或四次共享循环层,以额外计算换取任务准确率。BF16、MXFP8、NVFP4 与 Q5_K_M GGUF 已可下载,支持 256K 上下文。上游 vLLM 支持仍在 PR 中,llama.cpp 需要固定的 NVIDIA fork。
对你意味着什么
对本地模型团队来说,可调循环深度允许同一权重覆盖延迟与准确率档位,可能减少模型切换;但运行时未进入稳定上游,厂商 benchmark 不能替代端到端复测。
证据与关联材料
技术细节与六维评分
| 架构 | 8 层输入 + 共享 20 层循环块 + 8 层输出 |
|---|---|
| 循环次数 | 同一 checkpoint 可选 1、2 或 4 次 |
| 上下文 | 256K |
| 格式 | BF16、MXFP8、NVFP4、Q5_K_M GGUF |
| 许可 | OpenMDW 1.1 |
| 厂商 SWE Bench Verified | 1/2/4 次循环分别为 50.3 / 59.5 / 61.8 |
| 运行时边界 | vLLM 支持仍在评审;llama.cpp 需固定 NVIDIA fork |
技术影响 4
工程价值 4
采用信号 2
成熟度 2
验证成本 3
风险 3