每天听简报,了解最新科技、AI、软件资讯
MachGen 开源了 Open-VC Attention,用八位浮点计算加速视频模型里的注意力运算。团队拿 MiniMax H三生成过程中的一段长序列,在英伟达 B两百显卡上测试,完整注意力调用的速度接近十六位浮点基线的两倍。这里比较的是注意力这一环,不能换算成整段视频生成快一倍。提速也伴随数值误差:官方表格中的相对误差大约百分之三,并提供可选修复机制,减轻部分舍入误差。当前实现主要针对特定维度的长序列,支持 B两百和 B三百显卡;其他模型和硬件能否获得同样收益,还需要分别测试。
进度保存在本设备 · 登录同步