MoEMB 用 MoE 编码器扩容通用多模态嵌入模型，同时保持单向量、非自回归编码——首次系统研究 MoE 嵌入器的自适应计算（训练与推理）。仅 3B 激活参数，它在公开 MMEB 系数据训练的模型中于 MMEB-V2 与 MRMR 创下新 SOTA，超过激活参数 4 倍以上的 Think-Then-Embed 类方法。
MoEMB：沿专家轴扩容的多模态嵌入模型
2026-09-10前沿观察WATCH
MoEMB 用 MoE 编码器扩容通用多模态嵌入模型，同时保持单向量、非自回归编码——首次系统研究 MoE 嵌入器的自适应计算（训练与推理）。仅 3B 激活参数，它在公开 MMEB 系数据训练的模型中于 MMEB-V2 与 MRMR 创下新 SOTA，超过激活参数 4 倍以上的 Think-Then-Embed 类方法。
本文来自既有扫描档案。迁移保留原判断，不代表在迁移时重新核验。
对你意味着什么
对延迟敏感的检索服务，这是多模态嵌入的效率路径：容量经专家轴扩展，不付自回归推理的成本——与 GLM-5.3-Flash / Qwen Flash-Next 在 LLM 上做的取舍同款，搬到嵌入器上。
前沿观察
公开材料与效果验证，分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| ArXiv | 2609.08663（9 月 9 日周三 digest，2026-09-10T00:00Z 宣告） |
|---|---|
| 设计 | MoE 编码器；单向量、非自回归；首次系统研究 MoE 嵌入器的自适应计算 |
| 结果 | 3B 激活参数；公开 MMEB 系训练模型中 MMEB-V2 + MRMR SOTA；超过激活参数 4 倍以上的 Think-Then-Embed |
| 代码 | 摘要未提及 |
技术影响 3
工程价值 3
采用信号 2
成熟度 2
验证成本 3
风险 2