DeepSeek 已公开 Apache-2.0 DeepInfer 代码、硬件边界、离线示例与可复现脚本，并明确列出完整在线服务仍缺的组件。
DeepSeek 开源生产推理引擎 DeepInfer
2026-10-20已核实动态TRIAL
DeepSeek 以 Apache-2.0 开源其生产服务使用的推理引擎 DeepInfer。首个公开版本支持 NVIDIA SM100 GPU 与华为 Ascend 950 NPU 上的 DeepSeek-V4.1-Flash，包含优化 kernel、并行、异步调度、确定性采样和结构化输出。当前只提供离线推理，完整在线服务还缺 KV cache、分离式 serving 和副本负载均衡。
对你意味着什么
对自托管 DeepSeek 模型的团队来说，DeepInfer 公开了仅靠模型权重难以复现的生产调度与确定性机制。但它的硬件和服务边界仍窄，更适合作为试验对象，不是 vLLM 或 SGLang 的直接替代品。
证据与关联材料
技术细节与六维评分
| 许可 | Apache-2.0 |
|---|---|
| 支持模型 | DeepSeek-V4.1-Flash |
| 硬件 | NVIDIA SM100 GPU 与华为 Ascend 950 NPU |
| 已包含 | 优化 kernel、Attention DP / balanced CP、MoE EP + EPLB、异步调度、确定性采样与结构化输出 |
| 在线服务仍缺 | KV cache 系统、prefill/decode 分离与副本负载均衡 |
| Benchmark 范围 | 作者在 4 张 SM100 上测 prefill、64 张上测 decode |
| 时间依据 | 仓库最迟在 2026-10-20T09:08:54Z 已被公开链接；官方仓库不提供精确公开时刻 |
技术影响 4
工程价值 4
采用信号 4
成熟度 2
验证成本 4
风险 3