← 事件库 / Research

ASLEval 发现局部检查漏掉 agent 隐私暴露

ASLEval 以隐藏目标集和明确授权关系为基准,统计工具型 agent 会话中所有声明的用户可见出口。在论文的企业场景里,只检查预期输出通道,会漏掉可见出口并集所发现暴露的 46.9%。攻击者自报既会漏报真实泄露,也会产生误报。减少模型可见的工具返回虽然会改变泄露路径,却可能同时破坏正常任务成功率。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

对测试邮件、控制台和外部工具型 agent 的团队来说,最终回答干净不等于整个会话没有泄露。评测应枚举所有可见边界,定义每个敏感目标允许发给谁,并把任务效用与泄露一起报告。该框架仍处早期阶段,需要公开产物和独立 runtime 复现。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

ASLEval 以隐藏目标集和明确授权关系为基准,统计工具型 agent 会话中所有声明的用户可见出口。在论文的企业场景里,只检查预期输出通道,会漏掉可见出口并集所发现暴露的 46.9%。攻击者自报既会漏报真实泄露,也会产生误报。减少模型可见的工具返回虽然会改变泄露路径,却可能同时破坏正常任务成功率。

技术细节与六维评分
概念 局部代理指标与目标对齐的会话暴露之间存在隐私暴露位移
边界 所有声明的请求者可见出口与外部出口并集
漏检率 只查预期出口会漏掉可见出口并集发现暴露的 46.9%
真值 预先登记的隐藏目标集与明确授权关系
取舍 减少模型可见返回可能同时降低任务效用
技术影响 3
工程价值 4
采用信号 1
成熟度 1
验证成本 3
风险 3