受控留一探针显示：注意力大小与一个 token 对答案的因果贡献无关（Spearman rho = -0.004），动摇了主流基于注意力的 KV 驱逐方法的前提。TwinKV 是免训练的修复通道，可叠加在任意驱逐策略上：它找出被驱逐但键没有存活近重复的 token（孤儿）与保留但信息已在他处重复的 token（冗余供体），在不动原预算与打分规则的前提下互换。在 Qwen3-4B 上与四种近期策略组合，覆盖 LongBench、LooGLE、RULER 与 MMLU-Pro 无损对照、压缩比 0.3/0.5/0.7：两种策略下多数配置获益，第三种基本持平，第四种自适应基线已近性能上限、仅少数配置获益。
TwinKV：按键冗余修复 KV 缓存驱逐，而非注意力分数
2026-08-29前沿观察WATCH
受控留一探针显示：注意力大小与一个 token 对答案的因果贡献无关（Spearman rho = -0.004），动摇了主流基于注意力的 KV 驱逐方法的前提。TwinKV 是免训练的修复通道，可叠加在任意驱逐策略上：它找出被驱逐但键没有存活近重复的 token（孤儿）与保留但信息已在他处重复的 token（冗余供体），在不动原预算与打分规则的前提下互换。在 Qwen3-4B 上与四种近期策略组合，覆盖 LongBench、LooGLE、RULER 与 MMLU-Pro 无损对照、压缩比 0.3/0.5/0.7：两种策略下多数配置获益，第三种基本持平，第四种自适应基线已近性能上限、仅少数配置获益。
本文来自既有扫描档案。迁移保留原判断，不代表在迁移时重新核验。
对你意味着什么
可叠加的后处理通道设计意味着服务团队不用重训、不用换策略，就能在现有驱逐配置上试 TwinKV——KV 缓存研究里少见的落地形态。「注意力不等于重要性」的零结果对手工调驱逐阈值的工程师也是一记提醒。
前沿观察
公开材料与效果验证，分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| 探针 | 留一因果贡献探针：注意力大小与贡献的 Spearman rho = -0.004 |
|---|---|
| 方法 | 免训练、不用注意力分数的冗余信号；识别孤儿（被驱逐且无存活近重复）与冗余供体（被保留但信息已重复）；在原预算与打分规则内互换 |
| 结果 | Qwen3-4B；LongBench / LooGLE / RULER + MMLU-Pro 无损对照；压缩比 0.3/0.5/0.7；与 4 种策略组合：2 种多数配置获益、1 种基本持平、1 种近上限自适应基线仅少数获益 |
| ArXiv | 2608.27128，2026-08-27 提交 |
技术影响 3
工程价值 4
采用信号 1
成熟度 2
验证成本 2
风险 2