Open Dreamer：用JAX/Flax复现Dreamer 4世界模型，完整训练配方开源

Open Dreamer 是一个用 JAX/Flax 完全复现 Dreamer 4 世界模型的开源项目，包含完整的训练配方。团队从 CoinRun 扩展到 Minecraft/VPT 视频，采用同一骨干网络构建因果视频分词器和动态模型，并公开了模型架构、训练配置和浏览器演示。

• 项目发布两个仓库：next-state/open-dreamer 包含训练流程（因果视频分词器、动作条件潜在动态模型、rollout 生成和 FVD 评分），reactor-team/open-dreamer 提供本地 rollout 工具。另有浏览器演示实时生成 Minecraft 世界。
• 架构使用单一块因果 Transformer 骨干，交替空间层（单帧元素间传播）和因果时间层（帧间传播）。分词器为基于 Transformer 的掩码自编码器，实现约 100 倍压缩，无需 KL 或对抗损失。
• 动态模型进行下一帧预测，采用扩散强迫、流匹配和捷径模型训练，同时预测下一动作。rollout 折叠为每时间步的（前一动作、状态、策略）块，策略信息只能通过下一动作影响未来状态。
• 官方 Minecraft 配置：动态模型 1.6B 参数，30 层块因果层，d_model 1920，30 注意力头，3 个 KV 头用于分组查询注意力，每 4 层为一个时间注意力层，每时间步携带 32 个学习到的寄存器 token。
• 影响/看点：Open Dreamer 提供了完全开源的世界模型训练配方，降低了复现和扩展 Dreamer 系列的门槛，对基于模型的强化学习和视频生成研究有重要参考价值。

本内容由 AI 生成，仅供参考，请注意甄别