← 事件库 / Infrastructure

OpenVINO 2026.4 把多模态推测解码带到 Intel 硬件

Optimum Intel 2.2 与 OpenVINO GenAI 2026.4 为近期 Qwen、Gemma 模型加入 DFlash 和多 token 预测推测解码,并覆盖视觉语言路径。套件还把分页注意力扩展到 Mamba 2 混合模型,新增图像生成与语音识别流水线,并暴露逐请求的视觉编码、音频编码和嵌入耗时。Mistral 3、DeepSeek-OCR-2、Qwen3.8、Gemma 4 等多模态模型因此可在 Intel CPU、GPU 与 NPU 上走更完整的本地推理链路。

可用状态:Apache-2.0 开源软件包;正式版本

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

对在 Intel 硬件上做本地或边缘推理的团队来说,这补上了多模态与混合模型过去更依赖 CUDA 方案的几处缺口。建议先挑一个接近生产负载的模型试跑,实测端到端延迟、内存与导出保真度;这次发布给出了能力清单,但没有跨硬件 benchmark。

证据与关联材料

背景材料 · 历史记录,未重新核验

Optimum Intel 2.2 与 OpenVINO GenAI 2026.4 为近期 Qwen、Gemma 模型加入 DFlash 和多 token 预测推测解码,并覆盖视觉语言路径。套件还把分页注意力扩展到 Mamba 2 混合模型,新增图像生成与语音识别流水线,并暴露逐请求的视觉编码、音频编码和嵌入耗时。Mistral 3、DeepSeek-OCR-2、Qwen3.8、Gemma 4 等多模态模型因此可在 Intel CPU、GPU 与 NPU 上走更完整的本地推理链路。

技术细节与六维评分
发布套件 Optimum Intel 2.2.0、OpenVINO 2026.4、OpenVINO GenAI 2026.4 与 NNCF 3.4
推测解码 Qwen3/3.5/3.6、Qwen3-Coder 与 Gemma 4 支持 DFlash;Qwen3.5、Qwen3.6 与 Qwen3.8-27B 支持 MTP 导出和运行;VLM 支持 Eagle3 top-k
混合模型 Serving Granite 4.0 H 系列的 Mamba 2 分页注意力可运行于 CPU 与 GPU
流水线 Qwen-Image 与 Z-Image 图像生成;Fun-ASR 语音识别;扩展 VLM 视频与 OCR 支持
可观测性 逐请求报告视觉编码、音频编码与文本嵌入耗时
可用性 Apache-2.0 开源软件包;正式版本
技术影响 4
工程价值 4
采用信号 4
成熟度 4
验证成本 3
风险 2