每天听简报,了解最新科技、AI、软件资讯
近日,一篇关于大模型竞局的深度分析在社区引发广泛热议。文章指出,近期主流闭源大模型API的激进降价,特别是上下文缓存读取成本断崖式下跌六到八成,底层并非单纯的烧钱补贴,而是工程架构的重大演进。西方前沿机构在推理端,广泛吸收并落地了以开源社区为代表的工程优化创新,例如多头潜在注意力以及极度高效的KV缓存压缩方案。一方面,头部闭源公司指责开源机构存在蒸馏行为;而另一方面,开源团队公开发表的系统级架构突破,却实质上成为了帮闭源巨头大幅砍掉服务器与电费开支的救生索。这种相互借力又充满张力的博弈,正持续重塑全球大模型的底层经济学。
进度保存在本设备 · 登录同步