435篇论文综述:常在线AI智能体的遗忘与恢复机制严重缺失

一篇综述435篇论文的研究把“常在线”的AI智能体重新定义为持久状态系统,并指出一个被行业普遍忽视的短板:遗忘、审计与恢复机制严重缺失。

• 研究把Agent的状态拆解为事实、偏好、权限、凭证、任务账本、触发器、来源和外部承诺八类,关键问题是这些状态能否始终保持可授权、可追溯、可变、可恢复、安全。
• 435篇论文中,269篇涉及检索、200篇涉及写入,说明行业在“怎么让Agent记住东西”上投入很大。
• 但只有27篇提供了回滚机制、72篇涉及权限管理,“怎么让Agent忘掉或撤销错误记忆”几乎是研究空白。
• 综述的结论很直接:领域已经把写入、组织、检索、行动这条“前向弧”做得比较完善,却严重忽视了遗忘、审计、恢复这条“返回弧”。
• 对正在做长期记忆Agent的团队,这是一个明确的警示——一个只会越记越多、却不会撤销也不会解释自己为什么记住某件事的Agent,长期跑下去风险会越积越大。

本内容由 AI 生成，仅供参考，请注意甄别