蚂蚁百灵开源 Ling-3.1-flash 模型，最高支持 1M 上下文

蚂蚁百灵发布并开源 Ling-3.1-flash，模型总参数约 560B、每个 Token 激活约 25B，并支持最高 1M 上下文，关注点在于长文本处理与本地部署成本。相关信息见 IT之家 2026-10-15 报道及模型页面。

• 团队称，采用 MXFP4 与 block-FP8 量化后，权重占用由约 534GB 降至 292GB，测试部署从 8 张 Hopper GPU 降至 4 张。
• 在特定长输入、缓存命中和硬件配置下，团队测试得到平均首 Token 时间 604 毫秒、相邻 Token 间隔 3.28 毫秒。
• 另一组 4 卡 Hopper 测试中，模型达到约 1.36 QPS，但该结果依赖输入长度、并发量和延迟约束。
• OpenRouter 与 Ling Studio 提供在线调用，价格和优惠属于当前服务条件，不等同于长期成本。
• 影响/看点：若量化方案、长上下文并行和推理优化能在更多硬件与真实业务负载中复现，模型可能降低长文档应用的部署门槛；其实际优势仍取决于任务质量、显存条件和服务稳定性。
• 资料依据:
• IT之家（2026-10-15）：https://www.ithome.com/1/013/700.htm
• Hugging Face（2026-10-15）：https://huggingface.co/inclusionAI/Ling-3.1-flash

本内容由 AI 生成，仅供参考，请注意甄别