← 事件库 / Research

RealSWE:coding agent 基准与真实用户请求几乎不像同一类任务

RealSWE(arXiv 2608.27831,2026-08-31 digest 宣告)把 SWE-chat 的真实用户提示与 SWE-bench Verified / Pro 的问题陈述做对比:只带一句问题描述的请求占真实提示的 88%,却只占基准题目的 7%;87% 的真实提示是随口写的,而 94% 的基准题目是正式行文。论文提出六类信息分类与四个语言风格维度,并用程序化组合任务构造了覆盖真实请求分布的 RealSWE 基准。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

如果你用 SWE-bench 分数决定 agent 的上线节奏,这篇论文量化了你实际承受的分布偏移:真实用户提交的是短、随意、信息不足的请求,这时「会追问、会找信息」比「能消化长 issue」更重要。建议用它的信息分类自查内部评测集,别把 SWE-bench 的涨落直接当成线上表现的预测。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

RealSWE(arXiv 2608.27831,2026-08-31 digest 宣告)把 SWE-chat 的真实用户提示与 SWE-bench Verified / Pro 的问题陈述做对比:只带一句问题描述的请求占真实提示的 88%,却只占基准题目的 7%;87% 的真实提示是随口写的,而 94% 的基准题目是正式行文。论文提出六类信息分类与四个语言风格维度,并用程序化组合任务构造了覆盖真实请求分布的 RealSWE 基准。

技术细节与六维评分
ArXiv 2608.27831,2026-08-28 提交(8 月 31 日周一日刊)
关键数字 只带问题描述的请求:真实提示 88% vs 基准题目 7%;随意行文:真实 87% vs 基准 94% 为正式行文
方法 六类信息分类 + 四个语言风格维度,应用于 SWE-chat 真实提示与 SWE-bench Verified/Pro 问题陈述;RealSWE 用程序化组合任务覆盖真实请求分布
代码 论文附基准发布(组合式任务生成)
技术影响 3
工程价值 4
采用信号 2
成熟度 2
验证成本 2
风险 1