Bonsai 27B 模型发布：可在 iPhone 17 Pro 上原生运行，手机 AI 的 DeepSeek 时刻

Bonsai 27B 模型通过极致量化，让百亿参数大模型首次在 iPhone 上原生运行，被视为手机 AI 的“DeepSeek 时刻”。

• Bonsai 27B 基于 Qwen 3.6 27B 微调，推出 3-bit（5.9GB）和 1-bit（3.9GB）版本，可在 12GB 内存的 iPhone 上运行，保留约 90% 智能水平。
• 原始 Qwen 3.6 27B 在 16-bit 下需 54GB，4-bit 也需 18GB，远超手机承载能力；Bonsai 通过极端量化大幅压缩体积。
• 模型重点提升多步推理、工具使用、长上下文工作流和智能体循环能力，适合本地 AI 场景。
• 开源 AI 客户端 AnythingLLM 创始人评价其影响远超其他模型，是“真正的 AI DeepSeek 时刻”。
• 影响/看点：Bonsai 27B 让手机本地运行高性能大模型成为可能，可能推动端侧 AI 应用爆发，但极端量化对模型能力的具体影响仍需实测验证。