每天听简报,了解最新科技、AI、软件资讯
一篇发表在 arXiv 的新论文演示了让语言模型不靠梯度与再训练、仅凭自身推理直接改写权重的方法。研究团队把开源二十七 B 模型的权重、评分反馈与运行权交给模型自己,让它在练习题上验证修改效果,结果在未见过的问题上准确率提升六点六个百分点,还能把受损副本在未见图像任务上恢复至原精度的八成以上。不过 HN 讨论也补充指出,模型实现提分的关键改动主要是缩短推理链以避免超出词元上限,部分读者亦对论文未提对齐监管表示担忧。
进度保存在本设备 · 登录同步