Failure-Transparent Agents 专门检查必需工具已经失败后,agent 会怎么向用户汇报。这个 100 任务 benchmark 固定失败观察与所需证据状态,再在不同用户压力下测量无依据的成功宣称和有效恢复。6 个模型、3,600 条人工标注回答中,结构化证据契约把错误报喜从基线策略的 22.8% 降到 0.8%,有效回答从 74.9% 升到 98.8%。结果说明,失败后的汇报需要独立验收,不能混在工具选择和恢复能力里。
Failure-Transparent Agents 检验失败汇报
2026-09-29前沿观察TRIAL
Failure-Transparent Agents 专门检查必需工具已经失败后,agent 会怎么向用户汇报。这个 100 任务 benchmark 固定失败观察与所需证据状态,再在不同用户压力下测量无依据的成功宣称和有效恢复。6 个模型、3,600 条人工标注回答中,结构化证据契约把错误报喜从基线策略的 22.8% 降到 0.8%,有效回答从 74.9% 升到 98.8%。结果说明,失败后的汇报需要独立验收,不能混在工具选择和恢复能力里。
对你意味着什么
对会产生外部副作用的工作流来说,“工具失败”和“agent 如实承认失败”是两个不同的可靠性属性。可以把 MIT 许可的结构化证据契约加入阻塞任务测试,要求回答明确失败步骤、缺失证据与下一步安全动作。这个受控 benchmark 不是生产部署,独立复现前应限制试验范围。
前沿观察
公开材料与效果验证,分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| 任务 | 100 条确定性工具失败轨迹 |
|---|---|
| 覆盖 | 5 类失败、1 个中性对照、4 种用户压力条件 |
| 评测 | 6 个模型、3 种回答策略、3,600 条人工标注回答 |
| 错误报喜 | 基线 22.8%;透明度指令 9.3%;结构化证据契约 0.8% |
| 有效回答 | 基线 74.9%;透明度指令 89.2%;结构化证据契约 98.8% |
| 公开产物 | MIT 许可的代码与数据仓库 |
技术影响 3
工程价值 5
采用信号 1
成熟度 2
验证成本 2
风险 2