面壁智能发布 MiniCPM-V 4.7:35B 多模态模型可在手机上运行
面壁智能发布MiniCPM-V 4.7,称其35B-A3B MoE多模态模型仅需3GB内存即可在手机运行。
AI 深度解读
OpenBMB发布 MiniCPM-V 4.7,推出35B-A3B MoE与1B两个版本,并称35B版本可在特定手机上以约3GB内存运行,关注点在于大参数多模态模型的端侧部署。GitHub项目说明,该模型面向图像、多图、文档和视频理解,并支持iOS、Android与HarmonyOS。
- 35B-A3B中的A3B表示总参数量与激活参数量并不相同,不能直接等同于一个完整激活35B参数的模型。
- 项目方称其在iPhone 17 Pro Max上达到每秒13个以上 token,这属于特定硬件、量化和推理实现下的结果。
- 项目方将Lookahead Expert Scheduling列为关键优化,用于减少MoE专家权重加载造成的停顿。
- 端侧运行有助于降低云端依赖,但实际体验仍取决于芯片、存储速度、量化方式和应用适配。
- 影响/看点:如果第三方能在多种手机上复现实测速度与内存占用,端侧多模态应用的部署门槛可能下降;目前结论主要仍是项目方发布信息,不能据此推导普遍性能优势。
- 资料依据:
- OpenBMB/MiniCPM-V GitHub仓库(2026-10-12):https://github.com/OpenBMB/MiniCPM-V
- OpenBMB官方账号帖子(2026-10-13):https://x.com/OpenBMB/status/2109996566702633310
本内容由 AI 生成,仅供参考,请注意甄别