研究显示上下文压缩可能削弱智能体安全规则

论文《The Compaction Cliff in Long-Running AI Agent Memory》于 2026 年 8 月 24 日发布，研究上下文压缩对智能体安全规则保留的影响，关注价值在于它指出长任务中的“记住更多”与“保留正确规则”并不是同一个问题。

• 研究覆盖 20 个生产级智能体配置，并报告 Claude Code 在 Sonnet 4.6 上经过一轮压缩后保留 53% 的安全规则，五轮后降至 10%。
• 论文将原因解释为安全规则和任务日志共同竞争上下文空间；如果两者被按相同方式摘要，规则中的精确约束可能逐轮丢失。
• 研究提出 Knowledge Triage，根据知识类型采取不同保留策略，包括按类型压缩、拆分过长主题，以及从外部存储检索并优先固定相关规则。
• 在五个公开语料上，作者称该方法在不同压缩比下比最强单次模型压缩器多保留 2 至 4 倍安全规则，五轮召回率达到 96%。
• 这些结果衡量的是规则保留和若干下游任务表现，不等于证明所有 Claude Code 项目都会出现同样比例的安全规则丢失；具体结果依赖文件内容、压缩提示和任务流程。
• 影响/看点：研究可能推动代理系统把安全规则从普通记忆中分离管理，并对压缩后的行为做回归测试；其工程价值成立的条件是分类准确、检索延迟可接受，且额外机制不会引入新的规则冲突。
• 资料依据：Saber Zerhoudi、Jelena Mitrovic、Michael Granitzer《The Compaction Cliff in Long-Running AI Agent Memory》（2026年8月24日） https://arxiv.org/abs/2608.22752；Anthropic《Introducing Sonnet 4.6》（2026年2月） https://www.anthropic.com/news/claude-sonnet-4-6

本内容由 AI 生成，仅供参考，请注意甄别