每天听简报，了解最新科技、AI、软件资讯
开源混合专家模型近期通过仅激活二十亿参数的设计，实现了每秒超过一百八十个词元的超高本地推理速度。 研发团队指出，该模型总参数量达两百四十亿，但在逐词生成时仅调用不到一成的参数量，在保持超高解码效率的同时，全面拓展了十二万词元的长文本上下文窗口。多项基准测试显示，它在工具调用与复杂任务自动化场景下的表现超越了体量大出一半的同类模型。通过直接在智能体沙箱中引入强化学习训练，该模型为在个人电脑与边缘设备上离线运行复杂自动化流程提供了全新的算力解法。
进度保存在本设备 · 登录同步