John Schulman 谈模型自我改进中人类判断的不可替代性

Thinking Machines 联合创始人 John Schulman 在访谈中深入探讨了在大模型自我改进演进中，人类专业判断力为何依然具有不可替代的核心价值。

• 指出即便模型具备自我迭代与合成数据训练能力，引导模型处理复杂且缺乏确定性规则的真实世界任务仍高度依赖人类指导。
• 强调对于什么方案具备长期有效性与高品质的“品味与审美判断”，算法目前无法自发形成，需要资深专家的认知介入。
• 明确指出最关键的瓶颈在于清晰形式化表达人类的真实意图与需求边界，这是模型自我闭环难以自行解决的前提。
• 影响/看点：这表明在强化学习与合成数据浪潮中，人类专家数据标注与高阶意图对齐将从低级数据清理升级为高阶价值定义，成为大模型演进的关键壁垒。
• 资料依据：
• Thinking Machines 官方（2026-09-11）：https://x.com/thinkymachines/status/2098531092286611828

本内容由 AI 生成，仅供参考，请注意甄别