腾讯混元 Hy4 预览版上线 WorkBuddy,支持量化本地运行

📡 Testing Catalog2026-08-30 15:03

腾讯混元Hy4预览版上线WorkBuddy,经量化压缩至约200GiB,支持在本地近乎无损运行。

AI 深度解读

腾讯混元于 2026 年 8 月开源发布 770B 参数的 MoE 模型 Hy4-preview 并上线办公协同产品 WorkBuddy,同时推出基于 MIX-STQ1_0 量化的本地运行方案,其关注价值在于展示了超大参数模型通过极低位宽混合压缩在本地工作站部署的可行性。

  • 架构与开源参数:根据腾讯于 2026 年 8 月在 GitHub 与 Hugging Face 发布的官方信息(Tencent-Hunyuan/Hy4-preview),该模型采用 770B 总参数的 MoE 架构,单 Token 激活约 49B 参数。
  • 极端量化压缩:官方技术数据显示,通过 MIX-STQ1_0 逐层非均匀混合精度量化,模型体积从 BF16 精度的约 1.5TB 压缩至约 200GiB GGUF 格式,使该级别模型可在 256GB 内存等高端本地硬件配置下加载运行。
  • 基准评测保持度:官方公布的数据显示,量化版本在工具调用评测 MCP Atlas 中得分由 83.7 微降至 83.2,在多语言软件工程基准 SWE-Bench multi 中由 82.9 变动至 81.3,性能衰减相对有限。
  • 办公与开发结合:模型同步接入 WorkBuddy,支持在办公与编码场景间切换并一次性生成复杂工件,体现了模型能力与终端应用场景深度结合的路径。
  • 影响/看点:该方案表明超大模型极端量化正在降低私有化运行的硬件门槛,意味着企业本地化部署高阶代码与工具智能体的成本可能明显下降,但实际工程价值仍取决于量化版本在长周期复杂任务中的输出稳定性与端侧推理吞吐效率。
  • 资料依据:
  • 1. GitHub 官方仓库 Tencent-Hunyuan/Hy4-preview(https://github.com/Tencent-Hunyuan/Hy4-preview)
  • 2. Hugging Face 官方页面 tencent/Hy4-preview(https://huggingface.co/tencent/Hy4-preview)
  • 3. Testing Catalog 社交媒体发布(https://x.com/testingcatalog/status/2093957891900289328)

本内容由 AI 生成,仅供参考,请注意甄别

查看原文 ↗
看实时 AI 热点雷达 实时信息流 · 事件聚类 · 订阅推送 —— 完整产品在 aihot.aicxd.com
AI 助手