← 事件库 / Agent Security

激活探针提前识别 agent 隐性欺骗

《Caught in the Act》把白盒激活探针扩展到 agent 欺骗监控。作者报告其在 SHADE-Arena 上达到 98.8% AUC,并能识别仅靠文本无法判断的隐藏目标。训练数据 FIBS、推理代码与探针权重已经公开。

对你意味着什么

对部署高权限 agent 的团队来说,模型内部信号可能补上文本 monitor 的盲区。它仍是作者报告的研究结果;试点时应先测跨模型迁移、误报和激活读取成本,再考虑把它接到阻断链路。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

技术细节与六维评分
SHADE-Arena 报告 AUC 0.988
隐藏目标 AUC 最高 0.997
公开产物 MIT 推理代码、FIBS 数据和探针权重
方法 跨层、跨 token 的白盒激活探针
技术影响 4
工程价值 4
采用信号 1
成熟度 2
验证成本 3
风险 3