PrismML 开源 5.9GB 三值化模型 Ternary Bonsai 2 27B

根据 Emad Mostaque 与 PrismML 于 2026 年 9 月 17 日发布的信息，PrismML 正式开源了体积仅 5.9 GB 的三值化大语言模型 Ternary Bonsai 2 27B，展示了极端量化技术在保持大模型能力的同时降低端侧部署门槛的可行性。

• 模型基于 Qwen3.8 27B 构建，采用三值化压缩技术将参数体积较全精度版本缩小 9 倍至 5.9 GB，支持在 8 GB 内存的消费级终端设备上本地运行。
• 官方基准测试数据显示，该模型在压缩参数体积的同时保留了原模型 98.2% 的基准综合性能，降低了端侧运行高参数量模型的硬件门槛。
• 该项目采用 Apache 2.0 开源协议分发，允许开发者自由下载、商用集成并进行本地定制与微调。
• 影响/看点：若第三方基准评测和实际下游任务能复现其 98.2% 的性能保持率，此类三值化压缩方案可能加速高参数量模型在低算力边缘硬件上的本地化普及。
• 资料依据:
• X：Emad Mostaque（2026-09-17）：https://x.com/EMostaque/status/2100717168648184002
• PrismML 官方开源发布（2026-09-17）：https://huggingface.co/PrismML/Ternary-Bonsai-2-27B

本内容由 AI 生成，仅供参考，请注意甄别