新论文提出 Looped Flows:采用局部去噪目标优化循环模型推理能力
新论文提出循环模型训练方法 Looped Flows,利用局部去噪目标有效提升了模型的复杂推理表现。
AI 深度解读
2026 年 9 月 12 日 arXiv 发布的论文提出 Looped Flows 架构,通过引入局部去噪目标来改善循环架构模型的推理训练难题。
- 传统循环模型在训练时梯度通常仅回传最后数步,导致早期状态更新难以有效学习协同策略。
- 该研究借鉴流动模型的训练方式,使噪声水平逐步递减并共享噪声样本,将各步隐状态更新紧密关联。
- 推理阶段模型沿概率流积分运行,支持通过更细的时间网格分配更多算力,在 6 个推理基准测试中的 5 个上取得优于此前循环模型的表现。
- 影响/看点:该方法意味着循环模型在不增加参数量的条件下拓展了测试时算力扩展空间,但其实际效果仍取决于对更长推理延迟与计算开销的权衡控制。
- 资料依据:
- arXiv(2026-09-12):https://arxiv.org/abs/2609.11801
- X 平台 DAIR.AI 账号(2026-09-12):https://x.com/omarsar0/status/2098807354343260366
本内容由 AI 生成,仅供参考,请注意甄别