PrismML Bonsai 27B首次在iPhone上运行
PrismML Bonsai 27B首次在iPhone 17 Pro上运行,内存占用不到5GB。
AI 深度解读
PrismML 的 Bonsai 27B 首次在 iPhone 17 Pro 上运行,内存占用不到 5GB,实时响应可用,标志着 27B 级模型正式进入个人设备。
- 视频显示模型在 iPhone 上实时响应,表现相当可用。
- 量化技术将内存压到极致,同时保留了可用性。
- 过去只有云端才能扛得动的参数规模,开始真正进入个人设备。
- 这不是单纯的工程优化,是把“强大 AI 必须连云”这个假设又往前推了一大步。
- 当模型够大、够聪明、却能在本地低资源运行时,隐私、延迟、离线能力都会发生根本变化。
- 影响/看点:手机运行 27B 模型从概念变为现实,端侧 AI 的隐私和离线优势凸显。