← 事件库 / Foundation Models

NVIDIA 发布可调循环深度的 Dory1.0-4B

NVIDIA 发布 4B 参数的 Dory1.0-4B 开放权重,同一 checkpoint 可运行一、二或四次共享循环层,以额外计算换取任务准确率。BF16、MXFP8、NVFP4 与 Q5_K_M GGUF 已可下载,支持 256K 上下文。上游 vLLM 支持仍在 PR 中,llama.cpp 需要固定的 NVIDIA fork。

对你意味着什么

对本地模型团队来说,可调循环深度允许同一权重覆盖延迟与准确率档位,可能减少模型切换;但运行时未进入稳定上游,厂商 benchmark 不能替代端到端复测。

证据与关联材料

技术细节与六维评分
架构 8 层输入 + 共享 20 层循环块 + 8 层输出
循环次数 同一 checkpoint 可选 1、2 或 4 次
上下文 256K
格式 BF16、MXFP8、NVFP4、Q5_K_M GGUF
许可 OpenMDW 1.1
厂商 SWE Bench Verified 1/2/4 次循环分别为 50.3 / 59.5 / 61.8
运行时边界 vLLM 支持仍在评审;llama.cpp 需固定 NVIDIA fork
技术影响 4
工程价值 4
采用信号 2
成熟度 2
验证成本 3
风险 3