面壁智能 MiniCPM5-2B 本地端侧任务推理提速 34%

面壁智能公布端侧模型 MiniCPM5-2B 在本地智能体任务中的基准对比数据，显示其在保持相同成功率的情况下缩短了任务执行耗时。

• 在 Q4_K_M 量化设定下，MiniCPM5-2B 耗时 23.0 秒完成了包含播放列表构建、日志故障排查与工具调用补货在内的 3 项真实测试任务。
• 相比基准对比模型 Qwen3.5-4B，MiniCPM5-2B 的执行耗时降低了 34%，且两者在 3 项任务中均达成全部成功的相同通过率。
• 在同等测试环境下，本地运行的 Gemma 4 E2B 完成了 2 项任务。
• 影响/看点：端侧推理时延的降低可能改善本地设备执行复杂交互任务的响应速度，但模型在更广泛业务场景下的表现仍取决于量化压缩对泛化精度的保留程度。
• 资料依据:
• X：面壁智能 OpenBMB（2026-09-09）：https://x.com/OpenBMB/status/2097644482229625017

本内容由 AI 生成，仅供参考，请注意甄别