Perplexity CEO 宣布搜索推理负载已全面迁移至英伟达 Blackwell 架构

Perplexity 宣布已将其搜索推理工作负载迁移至英伟达 Blackwell 架构，反映出生成式搜索服务对高通量低延迟底层算力集群的迁移趋势。

• 负载规模：Perplexity 当前日均处理超过 5000 万次搜索查询，底层推理跨越包括 NVIDIA Nemotron 3 Ultra 在内的 15 个模型。
• 硬件优势：Blackwell 架构提供的更大 NVLink 域支持模型跨节点扩展，在扩展集群规模的同时避免引入额外的延迟开销。
• 演进规划：团队已启动基于 NVLink Blackwell 的推理服务，并计划未来进一步接入 Vera Rubin 架构算力。
• 影响/看点：若跨节点 NVLink 互联能持续降低高并发复杂推理的单位成本与延迟，可能提升复杂检索推理的响应效率，其经济性取决于实际硬件部署规模与负载饱和度。
• 资料依据：
• X：Aravind Srinivas（2026-09-08）：https://x.com/AravSrinivas/status/2097372049559969973
• NVIDIA 新闻公告（2024-03-18）：https://nvidianews.nvidia.com/news/nvidia-blackwell-platform-arrives-to-power-a-new-era-of-computing

本内容由 AI 生成，仅供参考，请注意甄别