Perplexity 开源端侧推理引擎 Lily：专为 Apple Silicon 深度优化

Perplexity 正式开源专为 Apple Silicon 硬件优化的端侧推理引擎 Lily，推进了其在混合计算架构下端侧大模型的高性能部署。

• Lily 是 Perplexity 为其 Perplexity Computer 混合计算系统开发的本地推理运行时。
• 该引擎专门针对 Apple Silicon 芯片架构对 Qwen3.6-35B-A3B 模型进行了底层计算图与内存调度优化。
• 官方旨在通过消除本地端侧算力瓶颈，确保复杂的计算机操作与代理指令能够在终端设备上低延迟执行。
• 影响/看点：端侧推理引擎的开源降低了在消费级苹果硬件上本地部署中大尺寸模型的门槛，其推广程度将取决于更多模型架构的适配速度与统一内存带宽的利用效率。
• 资料依据:
• Perplexity 官方发布（2026-09-02）：https://x.com/perplexity_ai/status/2095241544383226274
• Perplexity 官方博客（2026-09-02）：https://www.perplexity.ai/hub/blog/optimizing-on-device-inference-for-apple-silicon

本内容由 AI 生成，仅供参考，请注意甄别