蚂蚁百灵 Ling-3.1-flash 获 SGLang 首日支持：560B MoE、1M 上下文可 4 卡运行

蚂蚁百灵在 X 上感谢 SGLang 为 Ling-3.1-flash 提供首日部署支持，相关信息受到关注，是因为它把一个大规模 MoE 模型的参数规模、上下文长度与推理部署门槛联系起来。

• 蚂蚁百灵账号（2026-10-15）确认了与 SGLang 的 day-zero 支持关系，但该帖子本身未提供完整技术报告。
• 条目称 Ling-3.1-flash 为 560B 参数 MoE 模型、25B 激活参数，并支持 1M 上下文。
• 条目还称，经 MXFP4 与 block-FP8 量化后，模型权重约由 534GB 降至 292GB，并可在四张 Hopper GPU 上运行。
• SGLang 官方 GitHub README（2026-10-15）将其定位为面向大模型和多模态模型的开源推理框架，并说明硬件兼容性需结合具体模型与平台指南判断。
• 影响/看点：如果上述部署条件能在公开代码和可复现实验中成立，可能降低超长上下文 MoE 模型的试用门槛；实际成本仍取决于 KV cache、并发量、量化精度和服务吞吐。
• 资料依据:
• 蚂蚁百灵（2026-10-15）：https://x.com/AntLingAGI/status/2110709863097762043
• SGLang GitHub README（2026-10-15）：https://github.com/sgl-project/sglang/blob/main/README.md

本内容由 AI 生成，仅供参考，请注意甄别