KVMem（arXiv 2609.04852，9 月 7 日周一 digest）是为长时运行 agent 设计的 KV 上下文虚拟化系统：溢出的工作区历史不再被压缩成摘要、也不再以文本形式重复检索（前者丢失细粒度执行证据，后者反复 prefill 已处理过的内容），而是作为分页 KV 状态保留在 GPU 显存、主机内存和 NVMe 之间。轻量的模型原生注意力空间索引选取相关历史块，按需物化一个受模型原生上下文窗口约束的、随查询变化的执行视图。在历史最长达一百万 token 的长上下文 agent 基准（LongMemEval、MemoryAgentBench、AgentLongBench）上，KVMem 的任务效用和推理效率总体优于压缩类方案——后者是上下文溢出的事实标准（论文含 Qwen3.8-27B 的 DeepSWE 长上下文测试）。
KVMem 在消费级 GPU 上虚拟化百万 token 的 agent 工作区
2026-09-08前沿观察TRIAL
KVMem（arXiv 2609.04852，9 月 7 日周一 digest）是为长时运行 agent 设计的 KV 上下文虚拟化系统：溢出的工作区历史不再被压缩成摘要、也不再以文本形式重复检索（前者丢失细粒度执行证据，后者反复 prefill 已处理过的内容），而是作为分页 KV 状态保留在 GPU 显存、主机内存和 NVMe 之间。轻量的模型原生注意力空间索引选取相关历史块，按需物化一个受模型原生上下文窗口约束的、随查询变化的执行视图。在历史最长达一百万 token 的长上下文 agent 基准（LongMemEval、MemoryAgentBench、AgentLongBench）上，KVMem 的任务效用和推理效率总体优于压缩类方案——后者是上下文溢出的事实标准（论文含 Qwen3.8-27B 的 DeepSWE 长上下文测试）。
本文来自既有扫描档案。迁移保留原判断，不代表在迁移时重新核验。
对你意味着什么
这解决的是长时运行 agent 最大的实践缺口：压缩有损、重复检索昂贵，而模型已经算好的 KV 被直接扔掉。把 KV 分页到主机内存/NVMe 并用注意力空间索引管理，是 agent 记忆领域一直缺的存储层级设计，而且单张消费级 GPU 就能跑。在做常驻工作区的团队（云代理、长 coding 会话）这里拿到的是保持全保真历史、又不用付无界上下文成本的设计模板。
前沿观察
公开材料与效果验证，分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| 方案 | 溢出历史以分页 KV 状态存于 GPU 显存/主机内存/NVMe；模型原生注意力空间索引选取相关块；物化受原生上下文窗口约束、随查询变化的执行视图 |
|---|---|
| 基准 | LongMemEval、MemoryAgentBench、AgentLongBench；历史最长 100 万 token；另有 Qwen3.8-27B 的 DeepSWE 长上下文测试 |
| 对比 | 任务效用与推理效率总体优于压缩类方案（事实标准） |
技术影响 4
工程价值 5
采用信号 3
成熟度 3
验证成本 3
风险 2