面壁智能 MiniCPM-V 4.7 开源:35B-A3B MoE 可端侧无损推理

📡 面壁智能 OpenBMB2026-10-15 17:22

面壁智能在 ModelScope 开源 MiniCPM-V 4.7,35B-A3B MoE 多模态模型可在 iPhone 上端侧推理,提供压缩视觉 token 与多种量化版本。

AI 深度解读

面壁智能 OpenBMB 在 X 上宣布 MiniCPM-V 4.7 已上线 ModelScope,条目所述版本为 35B-A3B MoE 多模态模型,并强调端侧运行与多种推理格式;其关注价值在于大模型部署从云端向手机和其他终端延伸的可行性。

  • 条目称模型采用 Apache 2.0 协议,并提供 35B-A3B 与 1B 两种规格。
  • 官方账号给出 iPhone 17 Pro Max 上超过每秒 13 个 token 的运行数据,但该数据对应特定设备、量化和推理配置。
  • 其生态兼容范围覆盖 llama.cpp、Ollama、vLLM 等工具,并列出多种量化格式。
  • “无损推理”属于产品表述,实际效果仍需结合任务、输入分辨率、功耗和端侧内存独立评测。
  • 影响/看点:若模型权重、许可和端侧性能能够被开发者复现,手机端多模态应用的部署门槛可能下降;成立条件是不同设备上的速度、功耗和准确率均达到可用水平。
  • 资料依据:
  • OpenBMB 官方账号(2026-10-15):https://x.com/OpenBMB/status/2110662639345123563

本内容由 AI 生成,仅供参考,请注意甄别

查看原文 ↗
看实时 AI 热点雷达 实时信息流 · 事件聚类 · 订阅推送 —— 完整产品在 aihot.aicxd.com →
AI 助手