OpenBMB 发布端侧小模型 MiniCPM5-2B：原生支持 128K 上下文与主流推理引擎

OpenBMB 于 2026 年 9 月 7 日发布端侧模型 MiniCPM5-2B，原生支持 128K 上下文并兼容 Llama 架构，为设备端长文本部署提供轻量方案。

• 架构部署：参数 25.2 亿，遵循 Apache 2.0 协议，支持 vLLM 与 llama.cpp 等引擎直接加载。
• 评测表现：34 项基准均分 53.9，代码与工具调用表现突出，但通用知识较更大尺寸模型仍有差距。
• 训练方法：采用分层数据管理与 400B 微调，并通过在线策略蒸馏整合 16 个强化学习专家。
• 影响/看点：若端侧能耗达标，该模型可能降低端侧智能体部署成本；落地效果仍取决于端侧硬件算力与长文本稳定性。
• 资料依据：
• MarkTechPost（2026-09-07）：https://www.marktechpost.com/2026/09/07/openbmb-releases-minicpm5-2b-a-2-52b-dense-model-averaging-53-9-across-34-benchmarks-and-built-to-run-on-device/
• GitHub（2026-09-07）：https://github.com/OpenBMB/MiniCPM

本内容由 AI 生成，仅供参考，请注意甄别