Astera Labs 发布 Leo X 智能内存控制器：支持将 KV Cache 卸载至外部内存

Astera Labs 宣布推出 Leo X、Leo 2 E 与 Leo 2 P 系列智能内存控制器，为应对大模型长上下文与智能体运行时日益增长的内存带宽与容量瓶颈提供了硬件层面的卸载方案。

• Leo 2 E 与 Leo 2 P 符合 CXL 3.2 规范，支持 4 个下游 DDR4/DDR5 内存控制器，其中 Leo 2 P 支持双端口配置以实现附加内存的池化与共享。
• Leo X 专为 AI 加速器设计，可通过 PCIe 及专用协议与 GPU 扩展互连，构建专门的内存层以卸载 KV Cache 和智能体上下文。
• 厂商公布的测试数据显示，Leo X 能将首词元生成延迟缩短至多 62%，词元吞吐量提升至多 22%。
• 影响/看点：该方案若能在实际数据中心集群中完成软硬件协同适配，意味着推理集群有望在不单纯依赖高成本 HBM 的前提下扩展超长上下文承载能力。
• 资料依据：
• IT之家（2026-09-16）：https://www.ithome.com/1/003/090.htm
• Astera Labs（2026-09-15）：https://www.asteralabs.com/products/cxl/leo/

本内容由 AI 生成，仅供参考，请注意甄别