cuTile Rust
github.com原文 ↗
cuTile Rust 用 Rust ownership 模型约束 GPU kernel launch:mutable tensor 在 launch 前被切成互不重叠的 partition,immutable tensor 共享读取,生成的 host launcher 在异步 GPU 工作期间保持所有权纪律。`#[cutile::module]` 宏会把 kernel 的 Rust AST 嵌入 host binary,并在需要时经 CUDA Tile IR JIT 编译成 cubin。README 给出的 paper-facing 数据很具体:NVIDIA B200 上 element-wise 操作达到 7 TB/s,GEMM 达 2 PFlop/s,约为 91% peak memory bandwidth 和 92% dense f16 peak;safe Rust persistent GEMM 与低层 Tile IR 版本差距在 0.3% 内。
–浏览
评论 · Comments