PrismML将27B模型压缩至3.9GB塞进iPhone

PrismML 将 27B 参数的大模型压缩到 3.9GB，成功塞进 iPhone，性能保留 90% 以上，这意味着手机也能跑接近顶级的开源模型了。

• 基于 Qwen3.6-27B，将 54GB 模型压缩至 3.9-5.9GB，5.9GB 版本保留 95% 性能，3.9GB 版本保留 90%。
• 在 RTX 5090 上推理速度达 163 字/秒，在苹果 M5 Max 芯片上达 87 字/秒。
• 量化技术将内存压到极致，同时保持了可用性，让“强大 AI 必须连云”的假设被进一步打破。
• 当模型够大、够聪明、却能在本地低资源运行时，隐私、延迟、离线能力都会发生根本变化。
• 影响/看点：手机本地运行 27B 模型成为现实，端侧 AI 能力将迎来质变。