如何用 NVIDIA GPUDirect Storage 在 Python 中把数据读入 GPU 显存

NVIDIA 于 2026-10-22 介绍了在 Python 应用中使用 GPUDirect Storage 的方法；其关注价值在于说明数据从存储进入 GPU 显存时，如何减少经由 CPU 系统内存的额外拷贝。

• NVIDIA 官方文档称，GPUDirect Storage 通过 DMA 在存储与 GPU 显存之间建立直接路径，可降低 CPU 搬运数据的负担。
• cuFile API 面向 GPU 缓冲区提供类似文件读写的接口，典型流程包括注册文件句柄、分配 GPU 内存并执行读取。
• 直接路径依赖兼容的文件系统、驱动、对齐条件和部署拓扑；不满足条件时，库可能退回经过 CPU 内存的兼容路径。
• NVIDIA 文档明确指出，该方案更适合粗粒度流式传输，性能收益还取决于并发、批处理、存储设备和 PCIe 或 NVLink 拓扑。
• 影响/看点：对 GPU 已成为计算流水线首尾数据处理者的应用，GDS 可能减少 I/O 瓶颈；若硬件、Linux 软件栈或文件系统不匹配，实际收益可能有限，不能仅凭接口接入推断性能提升。
• 资料依据:
• NVIDIA GPUDirect Storage Documentation（2026-10-22）：https://docs.nvidia.com/gpudirect-storage/
• NVIDIA《GPUDirect Storage Overview Guide》（2026-10-22）：https://docs.nvidia.com/gpudirect-storage/overview-guide/index.html
• NVIDIA Developer《Magnum IO GPUDirect Storage》（2026-10-22）：https://developer.nvidia.com/gpudirect-storage

本内容由 AI 生成，仅供参考，请注意甄别