每天听简报,了解最新科技、AI、软件资讯
大模型账单降了多少,不能只看新生成文字的单价,还得看缓存。技术作者 Max Woolf 梳理近几个月的模型价格,指出编程智能体每轮都会带上先前对话,重复读取的缓存可能占掉大部分 token。缓存读取降价,因此也会明显改变整项任务的费用。他把近期降价的一部分压力归于开放权重模型,以及替它们提供推理服务的多家厂商:用户换供应商比较方便,就更容易比价。这是作者对竞争的分析,不能当成厂商已经确认的降价原因。至于单价下降后总账单会不会变少,还取决于使用量和实际缓存命中情况。
进度保存在本设备 · 登录同步