BAIR 提出 ABBEL 框架:让大模型学会更新信念以应对长程交互

导读:UC伯克利BAIR实验室提出ABBEL框架,针对长程agent任务里“上下文压缩(compaction)会拖累性能”这个老问题给出新解法——不再让模型简单摘要历史对话,而是显式维护、监督一套自然语言“信念状态”来替代全部交互历史。

• 问题背景很实际:任务越来越长(协作写代码动辄几百上千步),不可能把全部交互历史塞进上下文,业界通用做法是“自我摘要”压缩上下文,但即便benchmark差距不大,像Cursor这类产品仍建议用户任务中途别用压缩功能,说明摘要的隐性代价被低估了。
• 现有案例佐证痛点存在:Cursor的composer 2.5训练阶段就用了压缩;在线编程竞赛中稳定打赢所有人类选手的Grandcode系统,即便用了高效注意力模型Qwen 3.5-397B,依然离不开上下文摘要。
• ABBEL的核心思路是把摘要要保留的信息内容单独拎出来监督,用自然语言信念状态取代传统的递归摘要,并通过对信念状态打分(belief grading)提升每一步压缩的质量。
• 相比传统递归摘要一股脑压缩所有内容,ABBEL让智能体的“工作记忆”变成可解释、可单独校验的信念集合。
• 看点:这类工作直接回应了长程coding agent都要面对的工程难题——谁能把“压缩”做到不掉性能,谁的agent就能撑更长的自主任务链条。

本内容由 AI 生成，仅供参考，请注意甄别