ds4 以 MIT 开源，提供专用模型量化、本地 API、持久化 KV cache 与多后端支持。
DwarfStar 为前沿开放权重打造专用本地运行时
2026-10-03已核实动态TRIAL
DwarfStar 是 MIT 开源的 C 推理引擎，专门支持 DeepSeek V4、GLM 5.x 和 Qwen3.8，覆盖 Metal、CUDA 与 ROCm。它把项目专用 GGUF、SSD 流式加载、持久化 KV cache、OpenAI/Anthropic 风格 API 和原生 coding agent 放进同一栈。项目已有 2.3 万多个 GitHub star，但官方仍称其为快速变化的 beta。
对你意味着什么
对有大内存工作站的团队来说，ds4 提供了一条专门运行大型 routed-MoE 的本地路径，而不是通用推理框架。模型支持范围窄、版本仍是 beta，必须先按实际硬件验证。
证据与关联材料
技术细节与六维评分
| 后端 | Metal、CUDA 与 ROCm |
|---|---|
| 模型 | DeepSeek V4/V4.1、GLM 5.x、Qwen3.8 Flash Next |
| 能力 | 非对称量化、SSD 流式加载、磁盘持久化 KV cache、张量与流水线并行 |
| 接口 | CLI、本地 API 与原生 coding agent |
| 许可证 | MIT |
| 采用 | 2026-10-03 检查时 23,097 stars、2,222 forks |
| 稳定性 | 快速变化的 beta |
技术影响 3
工程价值 4
采用信号 5
成熟度 2
验证成本 4
风险 3