SemiAnalysis 深度剖析：GB300 NVL72 在 Agent 推理场景下性价比达 Hopper 的 13 倍

行业分析机构 SemiAnalysis 发布针对英伟达 GB300 NVL72 架构的性能测算，指出其在大模型智能体长上下文与高并发推理场景下的每美元算力产出相比 Hopper 架构显著提升。

• GB300 NVL72 采用高带宽铜缆 NVLink 背板互联，将单机柜 scale-up 扩展域由 Hopper 架构的 8 卡扩大至 72 卡，有效降低了跨节点通信延迟与网络开销。
• 凭借扩展至 72 卡的统一通信域，vLLM 等推理框架可实施更大规模的宽专家并行（Wide Expert Parallelism），单卡仅需承载少部分 MoE 专家即可实现高效并行服务。
• 智能体（Agent）场景中多轮对话与长上下文生成对内存带宽及跨卡协同要求极高，系统级密集互联使多智能体推理吞吐量与部署成本结构得到优化。
• 影响/看点：若大模型推理架构持续向超大规模 MoE 与复杂智能体工作流演进，拥有超大 scale-up 互联域的整柜方案可能成为数据中心推理基础设施的核心形态，但实际性价比表现仍取决于大模型的专家稀疏度设计与工作负载饱和度。
• 资料依据：
• SemiAnalysis（2026-09-11）：https://x.com/SemiAnalysis_/status/2098238630015705267
• NVIDIA（2026-03-18）：https://nvidianews.nvidia.com/news/nvidia-blackwell-platform-arrives-to-power-a-new-era-of-computing

本内容由 AI 生成，仅供参考，请注意甄别