每天听简报,了解最新科技、AI、软件资讯
初创团队 PrismML 开源了基于通义千问的三值小模型 Bonsai 2 系列,专为手机等设备本地运行智能体设计。 这次发布的 2B、4B 和 9B 模型权重仅有三个取值,体积压缩至零点四三 G 到两 G,不到全精度模型的九分之一。实测 9B 模型在苹果手机上本地运行智能体工具调用,速度可达每秒三十四词。在端云协同场景中,它能在本地清洗敏感信息后再传云端,节省八成以上的调用开销。 该系列模型现已按 Apache 2.0 协议全量开源,为端侧智能体开发提供了实用选择。
进度保存在本设备 · 登录同步