Optimum Intel 2.2 与 OpenVINO GenAI 2026.4 为近期 Qwen、Gemma 模型加入 DFlash 和多 token 预测推测解码,并覆盖视觉语言路径。套件还把分页注意力扩展到 Mamba 2 混合模型,新增图像生成与语音识别流水线,并暴露逐请求的视觉编码、音频编码和嵌入耗时。Mistral 3、DeepSeek-OCR-2、Qwen3.8、Gemma 4 等多模态模型因此可在 Intel CPU、GPU 与 NPU 上走更完整的本地推理链路。
OpenVINO 2026.4 把多模态推测解码带到 Intel 硬件
2026-09-17已核实动态TRIAL
Optimum Intel 2.2 与 OpenVINO GenAI 2026.4 为近期 Qwen、Gemma 模型加入 DFlash 和多 token 预测推测解码,并覆盖视觉语言路径。套件还把分页注意力扩展到 Mamba 2 混合模型,新增图像生成与语音识别流水线,并暴露逐请求的视觉编码、音频编码和嵌入耗时。Mistral 3、DeepSeek-OCR-2、Qwen3.8、Gemma 4 等多模态模型因此可在 Intel CPU、GPU 与 NPU 上走更完整的本地推理链路。
发布说明huggingface/optimum-intel · releases / tag / v2.2.0发布说明openvinotoolkit/openvino.genai · releases / tag / 2026.4.0.0
可用状态:Apache-2.0 开源软件包;正式版本
本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。
对你意味着什么
对在 Intel 硬件上做本地或边缘推理的团队来说,这补上了多模态与混合模型过去更依赖 CUDA 方案的几处缺口。建议先挑一个接近生产负载的模型试跑,实测端到端延迟、内存与导出保真度;这次发布给出了能力清单,但没有跨硬件 benchmark。
证据与关联材料
技术细节与六维评分
| 发布套件 | Optimum Intel 2.2.0、OpenVINO 2026.4、OpenVINO GenAI 2026.4 与 NNCF 3.4 |
|---|---|
| 推测解码 | Qwen3/3.5/3.6、Qwen3-Coder 与 Gemma 4 支持 DFlash;Qwen3.5、Qwen3.6 与 Qwen3.8-27B 支持 MTP 导出和运行;VLM 支持 Eagle3 top-k |
| 混合模型 Serving | Granite 4.0 H 系列的 Mamba 2 分页注意力可运行于 CPU 与 GPU |
| 流水线 | Qwen-Image 与 Z-Image 图像生成;Fun-ASR 语音识别;扩展 VLM 视频与 OCR 支持 |
| 可观测性 | 逐请求报告视觉编码、音频编码与文本嵌入耗时 |
| 可用性 | Apache-2.0 开源软件包;正式版本 |
技术影响 4
工程价值 4
采用信号 4
成熟度 4
验证成本 3
风险 2