KVShareArena 为「非精确前缀复用」(RAG 检索块、多 agent 报告)的 KV 缓存修复方法打分,指标为无缓存与全量重算之间差距的恢复比例,同时核算计算/内存/每请求延迟。关键发现:除非查询需要多个来源,仅位置校正就已足够;付费方法(重编码/训练)能恢复差距的 1/2-2/3;未修复的复用可能比不用缓存更差;跨模型检查点复用时,训练出的适配器比免训练方法损失更多质量。以 pip 包发布,带自动提交与公开排行榜。
KVShareArena:给前缀之外 KV 缓存复用立的基准
2026-09-11前沿观察TRIAL
KVShareArena 为「非精确前缀复用」(RAG 检索块、多 agent 报告)的 KV 缓存修复方法打分,指标为无缓存与全量重算之间差距的恢复比例,同时核算计算/内存/每请求延迟。关键发现:除非查询需要多个来源,仅位置校正就已足够;付费方法(重编码/训练)能恢复差距的 1/2-2/3;未修复的复用可能比不用缓存更差;跨模型检查点复用时,训练出的适配器比免训练方法损失更多质量。以 pip 包发布,带自动提交与公开排行榜。
可用状态:pip 包;自动提交;公开排行榜
本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。
对你意味着什么
这个方法家族(ReCache、CacheBridge、位置修复)整个月都在长,却没有公平对比。KVShareArena 给了它排行榜和两条决策规则:跨「需要多来源」的查询不要复用未修复的缓存;跨检查点时优先免训练修复。
前沿观察
公开材料与效果验证,分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| ArXiv | 2609.10266(9 月 10 日周四 digest,2026-09-11T00:00Z 宣告) |
|---|---|
| 指标 | 无缓存→全量重算差距的恢复比例;同时核算计算 / 内存 / 每请求延迟 |
| 发现 | 除多来源查询外,仅位置校正已足够;付费方法恢复差距的 1/2-2/3;未修复复用可能比无缓存更差;跨检查点时训练适配器劣于免训练方法 |
| 可用性 | pip 包;自动提交;公开排行榜 |
技术影响 3
工程价值 4
采用信号 2
成熟度 3
验证成本 2
风险 2