论文公开 FIBS、推理代码与探针权重,并报告 SHADE-Arena 98.8% AUC。
激活探针提前识别 agent 隐性欺骗
2026-10-09前沿观察TRIAL
《Caught in the Act》把白盒激活探针扩展到 agent 欺骗监控。作者报告其在 SHADE-Arena 上达到 98.8% AUC,并能识别仅靠文本无法判断的隐藏目标。训练数据 FIBS、推理代码与探针权重已经公开。
对你意味着什么
对部署高权限 agent 的团队来说,模型内部信号可能补上文本 monitor 的盲区。它仍是作者报告的研究结果;试点时应先测跨模型迁移、误报和激活读取成本,再考虑把它接到阻断链路。
前沿观察
公开材料与效果验证,分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| SHADE-Arena 报告 AUC | 0.988 |
|---|---|
| 隐藏目标 AUC | 最高 0.997 |
| 公开产物 | MIT 推理代码、FIBS 数据和探针权重 |
| 方法 | 跨层、跨 token 的白盒激活探针 |
技术影响 4
工程价值 4
采用信号 1
成熟度 2
验证成本 3
风险 3