← 事件库 / Infrastructure

KernelOPT 对 agent 优化的 GPU kernel 做端到端验收

KernelOPT 用五个受 profiling 引导的 agent,只优化编译器生成的 Triton 子 kernel,同时保留 cuBLAS 与 cuDNN 的分派。候选代码必须依次通过静态检查、多随机种子正确性、模型级 float64 回退检查和性能门禁,才能重新拼回模型;没有候选通过时就保留编译器基线。在 250 个 KernelBench 题目上,相对 torch.compile 的几何平均加速分别为 1.40 倍、1.15 倍和 1.07 倍。本次运行访问论文所列仓库时返回 404。

本文来自既有扫描档案。迁移保留原判断,不代表在迁移时重新核验。

对你意味着什么

对推理团队来说,真正值得借鉴的是验收层:agent 生成的底层代码不能凭一个单元测试或微基准就上线。应保留已经验证的库调用,对重新拼装后的完整模型做校验,并让编译器原始结果成为自动回退。

前沿观察

公开材料与效果验证,分开看。

已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。

证据与关联材料

背景材料 · 历史记录,未重新核验

KernelOPT 用五个受 profiling 引导的 agent,只优化编译器生成的 Triton 子 kernel,同时保留 cuBLAS 与 cuDNN 的分派。候选代码必须依次通过静态检查、多随机种子正确性、模型级 float64 回退检查和性能门禁,才能重新拼回模型;没有候选通过时就保留编译器基线。在 250 个 KernelBench 题目上,相对 torch.compile 的几何平均加速分别为 1.40 倍、1.15 倍和 1.07 倍。本次运行访问论文所列仓库时返回 404。

技术细节与六维评分
搜索 五个 agent,由 NVIDIA Nsight Compute profiling 引导
范围 只改生成的 Triton 子 kernel;保留 cuBLAS 与 cuDNN 分派
验收 静态、多随机种子、模型级 float64 回退与性能门禁
Benchmark 250 个 KernelBench 题目
加速 相对 torch.compile 的几何平均:Level 1 为 1.40 倍,Level 2 为 1.15 倍,Level 3 为 1.07 倍
输入 PyTorch nn.Module、Triton 与 Helion
产物 论文所列仓库在本次运行中返回 404
技术影响 4
工程价值 4
采用信号 1
成熟度 2
验证成本 4
风险 2