每天听简报，了解最新科技、AI、软件资讯
PyTorch 团队推出 GPU 算子编译优化框架 Helion，彻底省去了漫长的自动调优等待时间。过去优化深度学习算子，开发者往往需要花费数小时进行繁琐的参数搜索。而 Helion 采用全新的编译期启发式算法，能在编译阶段直接自动选出高性能配置。在英伟达 H100 显卡基准测试中，Helion 在线性注意力前向计算上比手写的 Triton 快了百分之十八，在归约计算中比 vLLM 的手写 CUDA 核心提速了百分之二十七。开发者无需在漫长调优和手写底层核心之间权衡，就能直接获得顶级的硬件吞吐。
进度保存在本设备 · 登录同步