RealSWE(arXiv 2608.27831,2026-08-31 digest 宣告)把 SWE-chat 的真实用户提示与 SWE-bench Verified / Pro 的问题陈述做对比:只带一句问题描述的请求占真实提示的 88%,却只占基准题目的 7%;87% 的真实提示是随口写的,而 94% 的基准题目是正式行文。论文提出六类信息分类与四个语言风格维度,并用程序化组合任务构造了覆盖真实请求分布的 RealSWE 基准。
RealSWE:coding agent 基准与真实用户请求几乎不像同一类任务
2026-08-31前沿观察TRIAL
RealSWE(arXiv 2608.27831,2026-08-31 digest 宣告)把 SWE-chat 的真实用户提示与 SWE-bench Verified / Pro 的问题陈述做对比:只带一句问题描述的请求占真实提示的 88%,却只占基准题目的 7%;87% 的真实提示是随口写的,而 94% 的基准题目是正式行文。论文提出六类信息分类与四个语言风格维度,并用程序化组合任务构造了覆盖真实请求分布的 RealSWE 基准。
本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。
对你意味着什么
如果你用 SWE-bench 分数决定 agent 的上线节奏,这篇论文量化了你实际承受的分布偏移:真实用户提交的是短、随意、信息不足的请求,这时「会追问、会找信息」比「能消化长 issue」更重要。建议用它的信息分类自查内部评测集,别把 SWE-bench 的涨落直接当成线上表现的预测。
前沿观察
公开材料与效果验证,分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| ArXiv | 2608.27831,2026-08-28 提交(8 月 31 日周一日刊) |
|---|---|
| 关键数字 | 只带问题描述的请求:真实提示 88% vs 基准题目 7%;随意行文:真实 87% vs 基准 94% 为正式行文 |
| 方法 | 六类信息分类 + 四个语言风格维度,应用于 SWE-chat 真实提示与 SWE-bench Verified/Pro 问题陈述;RealSWE 用程序化组合任务覆盖真实请求分布 |
| 代码 | 论文附基准发布(组合式任务生成) |
技术影响 3
工程价值 4
采用信号 2
成熟度 2
验证成本 2
风险 1