每天听简报,了解最新科技、AI、软件资讯
针对编程智能体在开发复杂项目时API调用成本飙升的痛点,开源团队推出智能模型路由架构Weave Router 2.0。该工具能够作为插件无缝嵌入各类智能体框架,在每轮推理中根据任务难度动态切换底层模型。 面对百轮会话下呈指数级爆炸的模型决策路径,团队利用隐马尔可夫状态链压缩搜索空间,并首创了精准的提示词缓存淘汰成本核算算法,避免为了节省单次开销而频繁丢失上下文缓存。 在基准测试中,该路由方案在代码通过率完全对齐前沿旗舰模型的前提下,将整体调用成本削减近半,完成任务的速度提升了超过两倍,展现了模型协同调度在降低AI工程门槛上的巨大潜力。
进度保存在本设备 · 登录同步