每天听简报,了解最新科技、AI、软件资讯
深度学习框架 PyTorch 正式发布二点一五版本,在苹果芯片上引入了八位浮点推理支持并大幅提升了本地大模型的解码速度。 除了让 Mac 开发者跑本地模型更流畅,新版本还针对英伟达 Blackwell 显卡上线了更快的四比特解码支持。 在多机分布式训练方面,官方重写的高性能通信库 NCCL 已经成为默认底层,配合全新的单边传输后端,给大规模流水线并行带来了更精细的显存调度能力。 无论你是在苹果笔记本上调试小型模型,还是在数据中心训练超大集群,这次底层升级都能带来直接的性能红利。
进度保存在本设备 · 登录同步