Are LLM-Generated GPU Kernels Production-Ready? A Trace-Driven Benchmark and Optimization Agent
arxiv.org原文 ↗
Atrex-Bench 从生产推理集群 trace 中采样 30 个算子和 440 个 shape,并为每个问题附上按部署负载影响计算的重要性权重。作者同时提供 Atrex 优化 agent,评估生成 kernel 在真实 workload 下的性能和可部署性,而不是只在合成算子集合上刷分。看点在于 benchmark 的采样口径直接来自生产 trace,能暴露实验室题集遮住的性能缺口。
–浏览
评论 · Comments