SemiAnalysis:存储成 AI 基础设施新焦点,KV 缓存卸载与 SSD 涨价

SemiAnalysis 与 Supermicro 高管的访谈指出,存储正在从 AI 基础设施的配角变成主角,KV 缓存卸载和 SSD 价格暴涨两件事同时把行业注意力拉回存储层。

• Supermicro 的 Vik Malyala 认为,无论是大模型推理中的 KV 缓存卸载,还是近期 SSD 价格飙升,用户现在最该盯紧的都是存储,而不再只是算力。
• 硬件形态持续演进,从 U.2 到 E1.S/E3.S 再到面向超大规模部署的 Petascale 方案,存储密度与 IO 带宽同步提升。
• 软件层面,Supermicro 正与 VAST、WEKA 等软件定义存储厂商合作,目标是避免用户被单一传统存储厂商锁定。
• KV 缓存卸载的兴起本身反映长上下文推理对显存的压力正在向存储层转移。
• 存储涨价加上 KV 缓存卸载的组合,意味着 AI 基础设施的成本结构正从“GPU 为王”向“GPU+存储”协同演变,采购和架构决策都需要重新纳入存储变量。

本内容由 AI 生成，仅供参考，请注意甄别