智能体多模型级联存在“交接损耗”:弱模型输出过多或降低强模型最终表现
研究指出智能体在多模型级联切换时存在“交接损耗”,前序弱模型生成过多冗余内容反而会拉低后续强模型的整体表现。
AI 深度解读
最新预印本论文 The Handoff Tax 揭示了长流程代码智能体在多模型级联切换时存在的性能与成本损耗现象,为智能体上下文路由优化提供了定量依据。
- 研究发现,在任务推进中将低成本弱模型升级切换至高能力强模型时,全轨迹传递仅能挽回不到一半的性能差距,同时产生了额外的上下文调用成本。
- 强模型继续处理任务时容易继承弱模型产生的错误推理与无效尝试,因此在升级切换时大幅裁剪或剔除弱模型历史轨迹反而能提升强模型表现。
- 相反,当高能力模型完成核心规划后向低成本模型降级交接时,完整保留强模型的高质量上下文有助于维持较好的执行质量。
- 影响/看点:这一交接损耗规律表明多模型混合智能体系统不能直接透传完整对话历史,依据模型切换方向动态裁剪轨迹将成为兼顾智能体任务成功率与经济性的核心优化方向。
- 资料依据:
- arXiv(2026-08-28):https://arxiv.org/abs/2608.24358
- X:Rohan Paul(2026-09-01):https://x.com/rohanpaul_ai/status/2094669079466672594
本内容由 AI 生成,仅供参考,请注意甄别