每天听简报,了解最新科技、AI、软件资讯
开源本地推理引擎 llama.cpp 与底层张量库 ggml,在诞生三年半后发布了 1.0.0 正式大版本。 这次发版的核心信号是接口稳定。官方团队承诺,从现在起两个库严格遵守语义化版本规则,只要公开的 C 接口或二进制接口出现不兼容改动,就会升级主版本号,让下游开发本地应用的产品不再频繁踩坑。 目前 llama.cpp 已支持超过一百五十种模型架构变体和主流投机采样方法,计算后端可编译为动态库按需加载。借助多家芯片厂商提供的测试环境,新版也覆盖了桌面、移动端和容器等全平台分发。
进度保存在本设备 · 登录同步