中电信与华为联合发布星辰轻量级代码智能体大模型 Xing4.0-29B

中电信人工智能与华为联合发布新一代轻量级代码智能体模型 Xing4.0-29B-A4B，展示了基于国产软硬件全栈实现百亿级长程 Agent 模型训练的技术进展。

• 架构采用细粒度混合专家（MoE）设计，总参数 29B 但每次仅激活 4B 参数（64 路由 / Top4 激活），并引入多头潜变量注意力（MLA）压缩 KV 缓存。
• 针对长程复杂任务与智能体执行，模型结合多 Token 预测与 mHC 流形约束超连接，支持上下文长度从 4K 逐步扩展至 256K。
• 该模型在昇腾 Atlas 900 A3 SuperPoD 液冷超节点与昇思 MindSpore 框架上完成全流程原生训练，通过软硬件协同优化使整网训练性能提升 96%。
• 训练数据涵盖数十万亿词元体系，并在昇腾生态中适配 Slime 强化学习框架与 MOPD 技术以融合代码、推理与 Agent 多专家能力，相关模型权重已在 GitHub 开源。
• 影响/看点：若其实际工具调用与长程代码生成能力在真实开发环境中得到检验，该方案可能加速国产算力集群在复杂智能体预训练与端侧低成本部署中的落地应用。
• 资料依据：
• IT之家（2026-09-20）：https://www.ithome.com/1/004/673.htm
• GitHub（2026-09-19）：https://github.com/XingChen-AGI/Xing4.0-29B-A4B

本内容由 AI 生成，仅供参考，请注意甄别