每天听简报，了解最新科技、AI、软件资讯
一个本地跑的决策模型工具Ollaya，用一次前向计算直接给出结构化答案，不用一个词一个词生成。在自己电脑上跑五问请求，从发问到拿结果只要八到十毫秒。同类云端服务TypeSafe Jev走网络请求，中位数要两百四十毫秒左右，慢了将近三十倍。Ollaya兼容TypeSafe的接口协议，换环境变量指向本地地址，原来调Jev的代码不用改就能转到自己电脑上跑，权重开源，不收单次调用费用。作者承认，默认的小模型在复杂问题上不如Jev准确，胜在快和免费，团队正在补更大的模型追平差距。评论区有人反问，这套速度优势撑不了多久，Ollama随时可能补上这项能力。
进度保存在本设备 · 登录同步