KernelOPT 用五个受 profiling 引导的 agent,只优化编译器生成的 Triton 子 kernel,同时保留 cuBLAS 与 cuDNN 的分派。候选代码必须依次通过静态检查、多随机种子正确性、模型级 float64 回退检查和性能门禁,才能重新拼回模型;没有候选通过时就保留编译器基线。在 250 个 KernelBench 题目上,相对 torch.compile 的几何平均加速分别为 1.40 倍、1.15 倍和 1.07 倍。本次运行访问论文所列仓库时返回 404。
KernelOPT 对 agent 优化的 GPU kernel 做端到端验收
2026-09-25前沿观察WATCH
KernelOPT 用五个受 profiling 引导的 agent,只优化编译器生成的 Triton 子 kernel,同时保留 cuBLAS 与 cuDNN 的分派。候选代码必须依次通过静态检查、多随机种子正确性、模型级 float64 回退检查和性能门禁,才能重新拼回模型;没有候选通过时就保留编译器基线。在 250 个 KernelBench 题目上,相对 torch.compile 的几何平均加速分别为 1.40 倍、1.15 倍和 1.07 倍。本次运行访问论文所列仓库时返回 404。
本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。
对你意味着什么
对推理团队来说,真正值得借鉴的是验收层:agent 生成的底层代码不能凭一个单元测试或微基准就上线。应保留已经验证的库调用,对重新拼装后的完整模型做校验,并让编译器原始结果成为自动回退。
前沿观察
公开材料与效果验证,分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| 搜索 | 五个 agent,由 NVIDIA Nsight Compute profiling 引导 |
|---|---|
| 范围 | 只改生成的 Triton 子 kernel;保留 cuBLAS 与 cuDNN 分派 |
| 验收 | 静态、多随机种子、模型级 float64 回退与性能门禁 |
| Benchmark | 250 个 KernelBench 题目 |
| 加速 | 相对 torch.compile 的几何平均:Level 1 为 1.40 倍,Level 2 为 1.15 倍,Level 3 为 1.07 倍 |
| 输入 | PyTorch nn.Module、Triton 与 Helion |
| 产物 | 论文所列仓库在本次运行中返回 404 |
技术影响 4
工程价值 4
采用信号 1
成熟度 2
验证成本 4
风险 2