英伟达解析Groq 3 LPX确定性执行机制：助力Vera Rubin平台实现高能效交互式推理

英伟达发布技术博客，解析在 Vera Rubin 平台中引入 Groq 3 LPX 机架的确定性执行机制，重点应对超大规模计算工厂在小批次高交互推理场景下的功耗瓶颈。

• 算力工厂在总电量受限背景下，每瓦性能成为核心评估指标；Vera Rubin 平台通过引入 Groq 3 LPX 充当低延迟加速机架，专门承载高交互性的小批次推理任务。
• Groq 3 LPX 采用确定性执行模型，LPU 编译器可对机架内 256 颗 LPU 芯片的数据搬运与计算执行实现时钟周期级精确调度，并提前预测每个周期的电流需求。
• 基于精确电流预测，系统引入抢占式供电（PEP）与时钟周期合成（CPS）技术，将电压暂降降低 60% 以上，从而压缩冗余的电气安全裕度，实现同等工作负载下的能耗削减。
• 官方数据显示，针对 2T+ 参数的大模型在长上下文与高交互场景下，Groq 3 LPX 与 Vera Rubin NVL72 配合可实现相较前代 GB200 NVL72 提升至多 35 倍的每兆瓦吞吐量。
• 影响/看点：该技术意味着编译器级的硬件时序控制能有效缓解瞬态电流对配电系统的压力，若实际生产中模型架构与编译器调度保持高度适配，有望在电力受限的数据中心内提高推理部署密度。
• 资料依据：
• NVIDIA Technical Blog（2026-09-15）：https://developer.nvidia.com/blog/how-nvidia-groq-3-lpx-deterministic-execution-drives-power-efficient-high-interactivity-inference-on-nvidia-vera-rubin/

本内容由 AI 生成，仅供参考，请注意甄别