每天听简报，了解最新科技、AI、软件资讯
White Circle开源了训练框架Halo，在八张B300显卡上把开源模型微调吞吐量做到了标准TRL框架的二点八倍。 峰值显存还比标准TRL少了四分之一。 它直接训练Hugging Face格式的模型，检查点照样能用官方接口加载，接入一个新模型家族只要不到一百四十行代码。 专家并行、张量并行、上下文并行这些切分方式能任意组合，同一套代码从单卡到几十台机器都能跑。 White Circle说公司内部所有模型现在都已经换成Halo训练。 还用它把智谱的GLM四点七Flash微调了一遍，跑分明显提升。 不过这些数字目前只来自White Circle自己发的一串推文，还缺一个独立的第三方验证。
进度保存在本设备 · 登录同步