Sakana AI 自我改进模型能力提升,却无法发现自身盲点
Sakana AI的自我改进方法提升了解题和评判能力,但可能重复强化自身盲点。
AI 深度解读
Sakana AI于2026年10月12日介绍MASS自我改进方法,论文版本于2026年10月8日提交;该方法让同一基础模型通过虚拟子智能体协作、工作流搜索和自生成轨迹训练来改进自身,关注点是自我监督能否在缺少外部专家评价时持续提供有效信号。
- MASS交替进行多智能体工作流优化和监督微调,把较优团队执行轨迹蒸馏回共享模型。
- 在Qwen3.6-27B上进行两轮循环后,论文报告四个开放式研究基准的单位输出Token表现达到基础模型的1.2至1.6倍。
- 官方同时承认,同质化的自我评估可能让模型把共同错误误判为进步,并在后续训练中强化。
- 论文结果集中于合成的开放式研究任务,不能直接等同于通用能力或真实科研产出提升。
- 方法收益还受到工作流搜索空间、评价器可靠性和训练数据质量的影响。
- 影响/看点:MASS说明多智能体结构可能改善自训练效率,但也把错误评估的累积风险带入训练闭环;只有在外部验证、结构约束和跨基准复现有效时,性能提升才更可能具有可迁移性。
- 资料依据:
- Sakana AI(2026-10-12):https://sakana.ai/mass/
- arXiv论文《Recursive Self-Improvement through Multi-Agent Self-Supervision》(2026-10-08):https://arxiv.org/abs/2610.12176
本内容由 AI 生成,仅供参考,请注意甄别