← 事件库 / Research

EarlyEval 提前终止注定失败的 agent 运行,评测最多省四成 token

EarlyEval(arXiv 2609.02783,9 月 3 日周四 digest;SMU)通过提前预测结果来降低 agent 评测成本:基于行为、文本与参考解特征的 LightGBM 成败分类器,在置信度越过校准阈值时终止 agent 运行。在 SWE-bench Verified、TerminalBench 与 Toolathlon 上,它省去 13-26% 的 agent 步骤、最多 44.1% 的输入 token 与 29.4% 的输出 token,准确率 89-97%,而每个 agent 的解决率只被扰动 1-2 个百分点。代码与数据已公开。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

agent 评测是真实开支:一次前沿 agent 运行从几美元到几百美元,而其中大部分花在第三步就已注定失败的运行上。对大规模跑 agent 评测的团队,这是即插即省的方案——用 1-2 个百分点的解决率扰动,换 30-40% 的 token 削减。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

EarlyEval(arXiv 2609.02783,9 月 3 日周四 digest;SMU)通过提前预测结果来降低 agent 评测成本:基于行为、文本与参考解特征的 LightGBM 成败分类器,在置信度越过校准阈值时终止 agent 运行。在 SWE-bench Verified、TerminalBench 与 Toolathlon 上,它省去 13-26% 的 agent 步骤、最多 44.1% 的输入 token 与 29.4% 的输出 token,准确率 89-97%,而每个 agent 的解决率只被扰动 1-2 个百分点。代码与数据已公开。

技术细节与六维评分
ArXiv 2609.02783,2026 年 9 月 3 日周四 digest 宣告
机构 新加坡管理大学(Yuling Shi、David Lo)
机制 基于行为 / 文本 / 参考解特征的 LightGBM 成败分类器;校准置信度阈值触发提前终止
结果 SWE-bench Verified / TerminalBench / Toolathlon:省去 13-26% agent 步骤;最多省 44.1% 输入 token、29.4% 输出 token;准确率 89-97%;单 agent 解决率扰动 1-2 个百分点
代码 已公开(见 arXiv 页注释)
技术影响 3
工程价值 4
采用信号 2
成熟度 2
验证成本 2
风险 1