← 事件库 / Research

Microsoft 开放 ThinkingBox,用数据库终态核验 agent

Microsoft 与 Hugging Face 已把 ThinkingBox 接入 OpenEnv。它包含 507 个有状态业务工作流,每个模型运行 20 次,并直接检查数据库终态和副作用,而不是相信 agent 的文字汇报。代码与数据已公开,common-set 分析覆盖 121,680 次有效试验。

对你意味着什么

对部署工具型 agent 的团队来说,这套 benchmark 能暴露 transcript grader 看不到的静默失败:agent 可能正常结束,也确实改了数据,但写错字段或留下多余副作用。公开 harness 适合在上线前测重复稳定性。

证据与关联材料

技术细节与六维评分
工作流 507
每个工作流试验次数 20
有效试验 121680
失败试验 79853
失败中正常结束比例 67.24%
失败模式 错误字段 77.61%;多余副作用 43.30%;缺失副作用 25.36%(可重叠)
许可证 MIT framework;CDLA-Permissive-2.0 数据;BSD-3 OpenEnv
技术影响 4
工程价值 5
采用信号 2
成熟度 3
验证成本 2
风险 1