SemiAnalysis 解析谷歌 TPUv7 架构：专用 SparseCore 单元助力 MoE 推理性价比提升 50%

分析机构 SemiAnalysis 发布针对谷歌第七代张量处理器 TPUv7（研发代号 Ironwood）的推理架构评测，揭示了其通过专用硬件单元 SparseCore 优化混合专家模型（MoE）的机制与成效。

• 硬件分工机制：TPUv7 配备了专用的 SparseCore 硬件加速单元，专门负责数据搬运以及将各专家的 token 汇聚为连续分组，从而让主算力核心 TensorCore 专注于执行矩阵乘法。
• 吞吐与通信优化：在 MoE 内核测试中，调用 SparseCore 进行输入重排使吞吐量提升约 12%，同时 SparseCore 还能分担集合通信（如 ReduceScatter）操作，减少张量核心的等待开销。
• 推理经济性对比：根据 SemiAnalysis 旗下 InferenceX 评测平台的数据，在结合架构优化与总体拥有成本（TCO）考量下，TPUv7 在特定推理场景下的性价比相较英伟达 Blackwell Ultra 最高提升约 50%。
• 影响/看点：若 Google Cloud 能够持续完善 TorchTPU 与 vLLM 等配套软件栈的编译与调度能力，专为稀疏计算设计的硬件架构可能在超大规模 MoE 模型推理市场对传统通用 GPU 构成实质性替代竞争。
• 资料依据:
• SemiAnalysis（2026-09-09）：https://x.com/SemiAnalysis_/status/2097490954907275409
• Google Cloud 官方文档（2024-05-14）：https://cloud.google.com/tpu/docs/intro-to-tpu

本内容由 AI 生成，仅供参考，请注意甄别