摘要
《Speculative Macro Commit for Faster Tool-Using Agents》(arXiv 2609.03236,9 月 4 日周五 digest,cs.AI;USC)把投机执行从 token 级扩展到多动作 agent 轨迹:快速的投机草拟器在隔离的环境快照上持续预测并执行未来的动作链,从训练轨迹中挖掘反复出现的多动作骨架存入宏库;当权威行动者的下一个工具调用与第一个草拟动作一致时,SMC 提交已预先执行的步骤及其观察。用 Qwen3.5-27B INT4 行动者 + Qwen3.5-4B 草拟器:tau2-Bench Telecom 上延迟较 Speculative Actions 基线降 10.23%、较顺序执行降 18.59%;AppWorld 上分别降 7.7% 与 44.9%(任务完成率略降)。代码已公开。
为什么重要
延迟是工具型 agent 的体验瓶颈,这项工作在 token 级投机之外打开了新杠杆:在快照隔离的环境上对整条动作链做投机,权威一致时提交。隔离快照模式(为草拟器提供廉价环境副本)可被任何做 agent 运行时编排的团队复用,与论文的具体数字无关。
技术细节
| ArXiv | 2609.03236,2026 年 9 月 4 日周五 digest 宣告(cs.AI 池) |
|---|---|
| 机构 | USC(Zeyu Liu、Souvik Kundu、Peter A. Beerel) |
| 机制 | 投机草拟器在隔离环境快照上执行预测的动作链;从训练轨迹挖掘多动作骨架入宏库;权威行动者的下一个工具调用与首个草拟动作匹配时,提交预执行步骤与观察 |
| 配置 | Qwen3.5-27B INT4 行动者 + Qwen3.5-4B 草拟器 |
| 结果 | tau2-Bench Telecom:较 Speculative Actions 延迟 -10.23%、较顺序执行 -18.59%;AppWorld:-7.7% / -44.9%(任务完成率略降) |
| 代码 | GitHub 公开 |
标签
agent-latencyspeculative-executiontool-callingorchestrationagent-runtime