每天听简报,了解最新科技、AI、软件资讯
大模型推理过程动辄吐出成百上千标记的现状,正在急剧推高多轮智能体调用的上下文成本。推理服务商Fireworks基于月之暗面的Kimi K3,训练并推出了精简推理模型Ember-1。研发团队发现,如果仅仅人为调低思考参数,会导致模型解题质量大幅缩水,于是他们通过环境反馈重新微调,教会模型在保留纠错能力的同时戒除冗余空转。实测显示,新模型在各项基准测试中砍掉了近一半的思考标记,解题准确率与顶配原版基本相当,显著降低了多轮对话中反复重播思考过程带来的高昂账单。
进度保存在本设备 · 登录同步