腾讯混元发布770B开源大模型Hy4 Preview：支持1M上下文，位列代码榜全球前五

腾讯混元发布Hy4 Preview模型，并在模型卡中披露其为7700亿参数、每个Token激活490亿参数的MoE模型，支持100万上下文；这一发布的关注价值在于开源模型的规模、长上下文和代码能力如何平衡。

• 腾讯官方模型卡显示，Hy4 Preview采用78层架构、256个路由专家，每个Token激活8个路由专家及1个共享专家。
• 模型卡称其支持100万上下文，并提供BF16与FP8权重、vLLM和SGLang部署方式。
• 腾讯公布的内部工程任务盲测中，Hy4 Preview平均分略高于GLM 5.3和Kimi K3，但测试由腾讯组织，任务与样本范围有限。
• X帖子所称代码榜全球第五，本文仅能确认其为帖子中的排名说法，不能由模型卡独立核验。
• 影响/看点：若第三方代码评测和实际部署结果能够重复这一表现，Hy4可能提高开源长上下文模型的竞争强度；成立条件是推理成本、硬件需求和真实任务稳定性都能被开发者接受。
• 资料依据:
• 腾讯混元Hy4 Preview模型卡（2026-08-30）：https://huggingface.co/tencent/Hy4-preview
• 腾讯混元Hy4 Preview GitHub仓库（2026-08-30）：https://github.com/Tencent-Hunyuan/Hy4-preview
• X：阿易 AI Notes（2026-08-30）：https://x.com/AYi_AInotes/status/2094035023443718221

本内容由 AI 生成，仅供参考，请注意甄别