Trace as State:调整推理轨迹位置,长上下文准确率最高提升 50 个百分点
论文发现,将推理轨迹置于长文档前重新处理,可显著提升长上下文任务准确率。
AI 深度解读
论文《Trace as State》提出,将已有推理轨迹放在长上下文材料之前重新推理,并报告这种位置调整可改善部分长上下文任务的准确率,关注价值在于它改变了推理轨迹与原始信息的组织方式。
- 论文于2026年9月2日提交至arXiv,研究将“轨迹前置”与“轨迹后置”进行对照。
- 在3个模型、3个长上下文数据集的27组组合中,前置方法有26组优于后置方法。
- 在GraphWalks Parents任务中,DeepSeek V4 Pro Preview的精确匹配率由43.0%提升至81.8%,GLM-5.2由83.2%提升至100.0%。
- 这些结果来自论文报告的实验设置,不能直接推导出对所有模型和任务都存在同等幅度收益。
- 影响/看点:如果后续研究能在更多任务、模型和不同轨迹质量下复现,推理轨迹的排布可能成为长上下文系统的低成本优化点;其价值取决于轨迹本身的可靠性及额外重读计算是否可接受。
- 资料依据:
- Trace as State论文(2026-09-02):https://arxiv.org/abs/2609.02702
- DAIR.AI X帖子(2026-09-04):https://x.com/dair_ai/status/2095693344689238465
本内容由 AI 生成,仅供参考,请注意甄别