← 事件库 / Infrastructure

Ai2 用预算加权公平共享重分配稀缺 GPU

Ai2 将 GPU 集群从静态优先级队列改为按预算加权的分层公平共享,并加入最短运行时间契约和历史轨迹模拟。其 30 天生产数据称,98% 应分配 GPU 小时得到兑现,集群利用率保持 98%,debug 任务 P90 排队从两小时降到 30 秒。

可用状态:架构文章;未发现公开 scheduler 或 simulator

对你意味着什么

对算力长期供不应求的研究平台来说,这说明公平性、利用率和交互延迟可以用同一调度模型权衡,而不是靠人工抢占。文章没有公开 scheduler 或 simulator,适合借鉴指标与契约,暂不建议直接照搬。

证据与关联材料

技术细节与六维评分
供需 需求为可用 GPU 的 2 至 3 倍
策略 分层预算加权公平共享 + 最短运行时间契约
生产窗口 30 天
报告的结果 兑现 98% 应分配 GPU 小时;15 个配额中 13 个达到至少 95%;利用率 98%
Debug 排队 P90 2 小时降至 30 秒
最大 H100 任务 中位数 5 分钟降至 24 秒;P90 2.8 小时降至 1.8 小时
人工修复 减少 74%
可用性 架构文章;未发现公开 scheduler 或 simulator
技术影响 3
工程价值 5
采用信号 3
成熟度 4
验证成本 4
风险 2