每天听简报，了解最新科技、AI、软件资讯
一个做模型压缩的团队ByteShape，把270亿参数的Qwen3.8压缩到十三点一G显存也能跑，跑分做到原始未压缩版本的百分之九十九点六三。他们发现，业内常用来衡量压缩损失的指标KLD这次不靠谱，Unsloth一个模型的KLD比他们低两成，实际跑分却只有百分之九十五点五五，比他们的百分之九十七点三三还低。结论是这个失真度指标猜不出模型到底能不能干活，得看真实任务的分数。评论区有人在AMD显卡上实测，发现这套模型并不比对手Unsloth快，还有人说配套的加速解码模型出过答错原本能答对题目的情况。
进度保存在本设备 · 登录同步