← 事件库 / Research

不可逆预算:给 agent 集群做不了的事定价

《The Irreversibility Budget》(arXiv 2609.00275,9 月 2 日周三 digest)提出由可信运行时为每个委托方(principal)跨 agent、工作流与租户维护一份「剩余在险价值」的累计账本。把不可逆性当作一等资源:运行时对每个效应(转出的钱、部署的代码、删除的数据、披露的信息)收取其剩余损失,累计将超出预算时拒绝边际效应。动机是:现有控制逐个检查效应,一支「每个动作都单独获授权」的 agent 集群仍可能在共享触发条件下把委托方的风险刷爆,而每个局部闸门都显示正常。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

这正好补上 multi-agent runtime 汇聚(趋势 #3)缺失的控制面:当 agent 互相发消息、响应共享触发器时,逐动作审批就不再能约束爆炸半径。论文的框架——把不可逆性做成带准入控制的计量资源,而不是逐权限勾选框——给做 agent 编排器的平台团队一份具体的设计草稿,也和本周 Claude Code、Codex 相继落地的运行时级 containment 规则形成呼应。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

《The Irreversibility Budget》(arXiv 2609.00275,9 月 2 日周三 digest)提出由可信运行时为每个委托方(principal)跨 agent、工作流与租户维护一份「剩余在险价值」的累计账本。把不可逆性当作一等资源:运行时对每个效应(转出的钱、部署的代码、删除的数据、披露的信息)收取其剩余损失,累计将超出预算时拒绝边际效应。动机是:现有控制逐个检查效应,一支「每个动作都单独获授权」的 agent 集群仍可能在共享触发条件下把委托方的风险刷爆,而每个局部闸门都显示正常。

技术细节与六维评分
ArXiv 2609.00275,2026 年 9 月 2 日周三 digest 宣告
机制 可信运行时为每个 principal 维护跨 agent / 工作流 / 租户的剩余在险价值累计账本;每个效应计入其剩余损失;累计超预算即拒绝边际效应(准入控制)
问题 逐效应的授权闸门各自正确,但集群在共享触发下仍会刷爆聚合风险;效应异构且存在对抗性,定价困难
技术影响 3
工程价值 4
采用信号 2
成熟度 1
验证成本 2
风险 2