SGLang 0.5.20 新增可精确回放 RL rollout 的 sampling mask、在分支点保留滑动窗口状态的统一 radix tree，以及运行真实 scheduler 与缓存逻辑的 CPU-only simulator。在 DeepSeek-V4-Flash 共享前缀测试中，新缓存把 token 命中率从 43.8% 提高到 60.8%，平均首 token 延迟从 1.57 秒降到 1.07 秒。Responses API 的结果存储改为显式开启，并新增多种混合与 diffusion 模型的生产支持。
SGLang 0.5.22 加速模型加载并修复循环状态错误
2026-09-19已核实动态TRIAL
SGLang 0.5.22 加入项目自报快 10 倍的 InstantTensor loader，扩展模型与硬件支持，并补充推测解码和 prefill/decode 分离路径。它还修复一项正确性问题：混合线性模型同时使用推测解码与结构化输出时，可能从错误的 Mamba 状态继续生成。新版要求 Python 3.11；性能提升均为项目自报。
本文来自既有扫描档案。迁移保留原判断，不代表在迁移时重新核验。
对你意味着什么
对推理团队来说，状态错误修复比醒目的吞吐数字更重要，因为特定功能组合可能在不报错的情况下生成错误结果。应先回归这条路径，再用自己的模型组合复现加载、首 token 延迟与吞吐，之后才升级生产环境。
证据与关联材料
SGLang 0.5.21 支持运行时切换 prefill/decode 角色，并默认启用 Rust 版统一缓存核心。
SGLang 0.5.22 扩展加载与分离式 serving，并修复推测解码加结构化输出时可能恢复错误 Mamba 状态的问题。
后续变化
0.5.21 增加运行时角色切换、默认 Rust 缓存核心与新的决策 API。
0.5.22 扩展 serving 性能路径并修复循环状态正确性问题
技术细节与六维评分
| 版本 | 0.5.22 stable；950 个 PR、245 位贡献者 |
|---|---|
| 要求 | Python 3.11 或更高 |
| 加载 | 项目称 InstantTensor 快 10 倍 |
| 推理服务 | 项目测试中 prefill/decode 分离吞吐最高增加 27%，p95 TTFT 降低 48.9% |
| 模型路径 | DeepSeek-V4.1 在 H200 上吞吐最高 2.3 倍；Apple Silicon 标准 PyTorch backend；扩展 diffusion 与多模态模型 |
| 正确性修复 | 推测解码与结构化输出同时使用时，可能从错误 Mamba 状态继续生成 |
| 证据限制 | 性能数字来自项目 benchmark，需要按实际负载复现 |
技术影响 4
工程价值 5
采用信号 5
成熟度 4
验证成本 2
风险 2