腾讯混元正式开源Hy4预览版：770B参数MoE架构与1M长上下文

腾讯混元官方于2026年8月28日正式开源其混合专家架构模型Hy4预览版，以770B总参数与1M上下文长度拓展了开源大模型的参数规模与长文本处理边界。

• 架构与参数规模：官方发布的技术信息显示，Hy4采用MoE架构，总参数量达770B（7700亿），单个Token激活参数为49B，并原生支持1M（100万）Tokens的上下文窗口。
• 开源与分发渠道：模型权重及配套推理代码已同步上线Hugging Face、GitHub以及ModelScope开源社区，供开发者公开下载与本地部署。
• 云端算力与接口支持：除开源权重外，腾讯同步通过TokenHub与第三方推理聚合平台提供API接入服务，主打面向生产力工作流的工具调用与代码生成能力。
• 影响/看点：若Hy4在实际长文本与Agent复杂任务中的推理效率和显存占用符合预期，可能为企业级私有化部署提供新的大参数MoE开源基座，其实际落地成效取决于后续量化部署方案与软硬件适配成本。
• 资料依据：
• 1. 腾讯混元官方X公告（2026年8月28日）：https://x.com/TencentHunyuan/status/2093222928720761009
• 2. Tencent-Hunyuan GitHub开源仓库（2026年8月28日）：https://github.com/Tencent-Hunyuan/Hy4-preview
• 3. HuggingFace模型主页（2026年8月28日）：https://huggingface.co/tencent/Hy4-preview

本内容由 AI 生成，仅供参考，请注意甄别