AMD MI355X 上 vLLM 推理性能超越 B200
AMD MI355X 搭配社区上游 vLLM 内核，在 Kimi K2.5 模型推理上性能反超英伟达 B200。
AI 深度解读
一则来自SemiAnalysis的实测放出重磅信号：AMD最新旗舰AI芯片MI355X在跑vLLM推理框架、加载Kimi K2.5模型（与xAI Cursor Composer 2.5同架构）时，推理性能反超英伟达B200，这是AMD在推理侧首次拿出对标乃至超越B200的公开证据。
- 测试对象是同一套vLLM推理栈分别跑在AMD MI355X和英伟达B200上，模型统一为Kimi K2.5，排除了框架和模型差异带来的干扰；
- 性能提升的关键是接入了GPU_MODE开源社区贡献的上游AMD内核优化，说明AMD生态的软件层短板正在被社区力量快速补齐；
- Kimi K2.5与xAI Cursor Composer 2.5同架构的细节被特别点出，暗示这套优化对同类模型有普适性，而非针对单一模型的定向调优；
- 消息以长文加多图数据形式流出，尚待更多独立测试复现验证，但已在AI基础设施圈引发关于英伟达推理护城河是否被撬动的讨论。
- 如果结果被进一步验证，意味着企业在采购推理算力时，AMD正从备选走向可比价的正选，对英伟达的推理侧定价权是个实质信号。
本内容由 AI 生成，仅供参考，请注意甄别