← 项目档案

vLLM ADOPT

vLLM 0.33 是稳定版,扩展 EFA、多种低精度路径和诊断能力,但 CUDA 13、ROCm 与多项执行器变化使它不是无风险升级。适合需要新模型和多节点服务的团队分阶段采用。

建议动作分阶段升级,回归镜像、驱动、KV 传输、暂停请求与真实吞吐。

判断复核于 2026-11-03 · 依据:vLLM 0.33 转向 CUDA 13 并加入 EFA 服务

RSS 订阅

时间线