White Circle 开源分布式后训练框架 Halo，吞吐量达 TRL 近 3 倍

White Circle 正式开源分布式后训练框架 Halo，旨在为超出 Hugging Face TRL 承载能力但无需上马完整 Megatron 栈的中大规模模型提供高效强化学习训练方案。

• 性能基准显示，在 8 卡 B300 硬件环境下，Halo 的训练吞吐量最高可达原生 TRL 的约 2.8 倍。
• 在双方均开启 ZeRO-3 显存分片技术时，Halo 运行时的峰值显存占用相较原生方案降低了 25%。
• 框架保持了与原生 Hugging Face 模型的兼容格式，支持直接开展多轮强化学习（RL），并具备从单 GPU 线性扩展到分布式集群的能力。
• 影响/看点：Halo 为中型团队的模型后训练提供了轻量且高吞吐的工具选择，有助于降低多轮强化学习训练的显存与算力门槛，其推广程度将取决于社群生态集成度与分布式稳定性。
• 资料依据：
• X：Rohan Paul（2026-09-21）：https://x.com/rohanpaul_ai/status/2102094474050769125
• GitHub 官方项目库（2026-09-21）：https://github.com/whitecircle-ai/halo

本内容由 AI 生成，仅供参考，请注意甄别