腾讯发布770B开源MoE模型Hy4 Preview,支持1M上下文与智能体协同
腾讯发布开源MoE模型Hy4 Preview,总参数770B、激活49B,支持1M上下文与多智能体并行协同。
AI 深度解读
2026年8月28日,腾讯正式开源其770B参数规模的混合专家架构模型Hy4 Preview,因其以49B激活参数支持100万Token上下文并聚焦长程软件工程等生产力场景而受到业界关注。
- 架构与参数配置:根据腾讯官方公告与Hugging Face开源页面(2026年8月28日),该模型采用MoE架构,总参数量为770B,单次推理激活参数为49B,支持1M Token长上下文,并引入原生多Token预测(MTP)层以提升解码效率。
- 开源协议与接入途径:模型权重已在Hugging Face、ModelScope等平台基于Apache 2.0协议开源,同时在腾讯云TokenHub及OpenRouter上线API接口,并接入CodeBuddy、WorkBuddy等工具。
- 场景定位与协同机制:模型针对长周期代码编写、多文件办公分析与科研计算进行专项设计,支持协调多个会话进行结果评估与方向调整。
- 影响/看点:高参数量与长上下文MoE模型的开源,意味着团队在处理超长代码库和复杂分析任务时有了新的开源底座选项,但其实际落地效能取决于使用者本地化部署大参数权重的硬件成本与推理框架的适配效率。
- 资料依据:
- 1. 腾讯官方公告(https://www.tencent.com)
- 2. Hugging Face开源页面(https://huggingface.co)
- 3. InfoQ发布报道(https://www.infoq.cn)
本内容由 AI 生成,仅供参考,请注意甄别