长度价值模型：面向Token级长度建模的可扩展价值预训练

长度价值模型（LenVM）提出了一种Token级长度建模框架，通过价值估计来预测每个解码步骤的剩余生成长度。

• 传统方法仅在序列级别进行长度控制，缺乏细粒度建模，而LenVM在Token级别操作。
• 将长度建模视为价值估计问题，为每个生成的Token分配恒定负奖励，从而学习剩余长度。
• 这种方法可以更精确地控制生成长度，优化推理成本和推理性能。
• 实验表明，LenVM在多个任务上优于基线，特别是在需要固定长度输出的场景。
• 该工作由Apple提出，有望应用于对话系统、文本生成等需要长度约束的领域。
• 影响/看点：Token级长度建模为AI生成提供了更精细的控制，可能成为未来自回归模型的标准组件。

本内容由 AI 生成，仅供参考，请注意甄别