← 事件库 / AI Engineering

Nubank 先用仿真筛选 agent,再让它服务客户

Nubank 用会对 agent 回应作出反应的合成客户与模拟工具结果,在真实流量前筛选四个已部署版本的银行卡客服 agent。版本级仿真得分与生产得分高度相关。一轮由仿真指导的改动在在线 A/B 测试中让交易净推荐值提高 36.69 分。之后,团队在 16,000 多轮模拟对话中筛选开放权重配置,选出的模型让自助解决率提高 8.82 个百分点,tNPS 没有统计显著下降;论文称该 agent 面向 1.4 亿客户规模。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

对生产 agent 团队来说,这是少见的实证:多轮仿真能在高风险线上实验前缩小候选空间。关键不是只有合成用户,而是保留真实工具行为、用与生产相关的评估器检验假设,并在正式放量前保留线上对照组。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

Nubank 用会对 agent 回应作出反应的合成客户与模拟工具结果,在真实流量前筛选四个已部署版本的银行卡客服 agent。版本级仿真得分与生产得分高度相关。一轮由仿真指导的改动在在线 A/B 测试中让交易净推荐值提高 36.69 分。之后,团队在 16,000 多轮模拟对话中筛选开放权重配置,选出的模型让自助解决率提高 8.82 个百分点,tNPS 没有统计显著下降;论文称该 agent 面向 1.4 亿客户规模。

技术细节与六维评分
部署对象 Nubank Card Delivery 与 Card Management agent
规模 论文称客户规模为 1.4 亿
验证 四个已部署版本;仿真与生产二元评分相关
第一次 A/B 交易净推荐值增加 36.69 分
第二次 A/B 自助解决率增加 8.82 个百分点;tNPS 无显著变化
模型筛选 超过 16,000 轮模拟对话
技术影响 3
工程价值 5
采用信号 5
成熟度 4
验证成本 4
风险 2