← 事件库 / Research

RedKnot-MLA:前缀缓存式复用终于能用 MLA 模型

MLA 把注意力打包进单一潜在 KV 流,抹掉了头级复用依赖的每头缓存边界。RedKnot-MLA 把每个不可变文档在规范位置 0 离线处理(认证的本地头贡献保留为 MLA-Off);服务时,查询侧 RoPE 重定位恢复请求位置,同时重算少量全局头与受保护的本地 token 行(MLA-On),在共享输出投影前合并——打包的潜在向量从不被拆开。在 DeepSeek-V4-Flash(37 个可复用层、56/8 本地/全局分割)上达到解析复用上限的 75.29%(Pro-0813 为 78.89%);热工件 TTFT 提升 2.02-3.84 倍,256K 下每个主要算子节省 78.7-79.5% 算力,质量波动小(聚合 F1 +3.24、EM +4.16;一个数据集 -2.81 F1)。约 2.0 倍 QPS 的数字被标注为初步结果而非存档结果。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

标准前缀缓存在 MLA 模型(DeepSeek V4/V4.1 serving)上是盲的,而这恰是 RAG 与多 agent 工作负载复用文档的地方。RedKnot-MLA 把文档级复用带回这一架构家族——对任何用共享语料 serving DeepSeek 模型的团队都直接相关。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

MLA 把注意力打包进单一潜在 KV 流,抹掉了头级复用依赖的每头缓存边界。RedKnot-MLA 把每个不可变文档在规范位置 0 离线处理(认证的本地头贡献保留为 MLA-Off);服务时,查询侧 RoPE 重定位恢复请求位置,同时重算少量全局头与受保护的本地 token 行(MLA-On),在共享输出投影前合并——打包的潜在向量从不被拆开。在 DeepSeek-V4-Flash(37 个可复用层、56/8 本地/全局分割)上达到解析复用上限的 75.29%(Pro-0813 为 78.89%);热工件 TTFT 提升 2.02-3.84 倍,256K 下每个主要算子节省 78.7-79.5% 算力,质量波动小(聚合 F1 +3.24、EM +4.16;一个数据集 -2.81 F1)。约 2.0 倍 QPS 的数字被标注为初步结果而非存档结果。

技术细节与六维评分
ArXiv 2609.07008(9 月 9 日周三 digest,2026-09-10T00:00Z 宣告)
机制 规范位置 0 离线处理文档(MLA-Off,认证本地头贡献)+ 服务时查询侧 RoPE 重定位(MLA-On,少量全局头重算 + 受保护本地行);打包潜在向量从不拆分
结果 DeepSeek-V4-Flash:解析上限的 75.29%(Pro-0813 78.89%);热工件 TTFT 2.02-3.84 倍;256K 下每算子省 78.7-79.5% 算力;聚合 F1 +3.24 / EM +4.16,一个数据集 -2.81 F1;~2.0x QPS 为初步结果
代码 摘要未提及
技术影响 4
工程价值 4
采用信号 2
成熟度 2
验证成本 3
风险 2