7名博士生用多Agent协作3个月从零训练7B模型，开源全部代码与数据

北京中关村学院与中关村人工智能研究院的 7 名博士生利用多智能体协作系统，历时 3 个月完成 7B 参数模型 ZGCM-1 的全流程预训练并开源全部资产，为小团队低成本训练模型提供了工程参考。

• 团队分工与自主性：将研发流程划分为 11 类任务，实验监控和部署达到自主规划执行的 L4 级，而模型架构与学习算法设计处于辅助性质的 L2 级，仍由研究人员主导关键决策。
• 架构与训练优化：采用局部与全局注意力混合架构，将上下文逐步扩展至 256K，结合 Muon 优化器与 FP8 低精度训练，降低了长文本推理时的显存占用并提升了训练效率。
• 评测与闭环修正：针对训练过程出现的能力异常波动，构建覆盖 18 类、183 项的 ACE 原子能力评测体系，实现分钟级快速诊断。
• 资产透明公开：向社区公开了技术报告、训练代码、数据集配方、模型权重以及中间检查点日志。
• 影响/看点：该实践验证了多智能体系统在模型工程流水线中的自动化辅助价值，但相关机制能否有效迁移至数百亿参数以上的大规模模型训练，仍有待更大计算规模下的稳定性检验。
• 资料依据：
• 量子位（2026-09-15）：https://www.qbitai.com/2026/09/489227.html
• GitHub（2026-09-15）：https://github.com/zgcagi/ZGCM-1

本内容由 AI 生成，仅供参考，请注意甄别