如何更高效地调度 GPU 集群

Ai2 介绍了一套面向 GPU 集群的调度机制，以 GPU 时间预算、分层公平共享和时间切片合同替代单纯的优先级调度，关注价值在于把稀缺算力分配从临时协调转为可审计的预算管理。

• Ai2 表示其集群包含数千张 NVIDIA H100、B200 和 B300 GPU，服务约 150 名研究人员。
• 其提交任务对 GPU 的需求约为可用资源的 2 至 3 倍，形成明显供需缺口。
• 旧机制出现过占用空转资源、优先级膨胀和低优先级任务长期得不到资源等问题。
• 新机制试图同时考虑资源利用率、研究任务影响和不同团队之间的公平性。
• 影响/看点：预算化和公平共享可能减少抢占与人工协调成本，但效果成立的前提是任务价值能够被相对一致地评估，并且时间切片不会显著损害长周期训练任务的效率。
• 资料依据:
• Hugging Face Blog（2026-10-09）：Impactful scheduling for GPU clusters https://huggingface.co/blog/allenai/impactful-scheduling

本内容由 AI 生成，仅供参考，请注意甄别