Meta 等提出 Context Language Models，让模型自主管理上下文

华盛顿大学、Meta、MIT和Trillium Labs研究者于2026年9月29日提交《Context Language Models》，提出让模型直接管理可编辑的上下文文件，关注点在于把上下文整理从外部harness控制转为模型自身行为。

• CLM允许模型对上下文文件进行追加、改写、压缩和删除，并将变化同步回后续推理过程。
• 论文报告，在BrowseComp-Plus上准确率比最强基线高11.4%，同时前缀复用FLOPs少21.5%。
• 在12小时EdgeBench子集上，得分高5%、前缀复用FLOPs少59%；这些结果来自论文作者设定的模型、预算和评测流程。
• 论文还提出Suffix Cache Reuse，并称在匹配性能下可比标准SGLang服务降低35%的服务端计算量。
• 研究同时承认，模型自由编辑上下文会增加服务系统的缓存处理和行为调试难度。
• 影响/看点：若结果能在更多模型和长时任务中复现，智能体可能减少对固定摘要、检索和压缩工具的依赖；但收益高度依赖模型是否能可靠判断哪些信息应保留，且计算指标不等同于整体成本或产品体验。
• 资料依据:
• 论文《Context Language Models》（2026-09-29）：https://arxiv.org/abs/2609.37725
• Context Language Models官方代码仓库（2026-09-29）：https://github.com/facebookresearch/context-language-models

本内容由 AI 生成，仅供参考，请注意甄别