每天听简报，了解最新科技、AI、软件资讯
大模型在长程任务中的记忆压缩与上下文管理，迎来了一种由内而外的新架构。华盛顿大学等机构的研究团队近日联合提出上下文语言模型。该方案打破了由外部框架机械修剪上下文的传统做法，直接将上下文抽象为可被模型自由读写的动态文件。 通过让智能体自主决定上下文的保留、重写与剔除，模型在长程网页浏览与多代码库协作评测中均实现了两位数的准确率提升，同时大幅削减了浮点运算开销。此外，配套的后缀缓存复用机制也让服务侧推理算力降低了超过三成。这一尝试将记忆管理从外部死板工程收编为模型内生能力，为应对超长上下文挑战提供了优雅解法。
进度保存在本设备 · 登录同步