OpenAI 首席科学家谈「异质心智」：日益强大的 AI 与对齐安全挑战

OpenAI 首席科学家发文回顾推理模型自 2023 年以来的演变历程，并对机器智能快速提升带来的对齐与安全挑战提出审慎预警，受到前沿 AI 治理与安全领域的关注。

• 发展历程：文章披露 2023 年其 RLSlow 研究项目验证了通过强化学习扩展推理模型的可行性，当前推理模型已扩展至界面操作、人机协同与科学研究，但也改变了计算机安全格局。
• 自我改进预期：基于内部实验观察，作者认为技术发展可能维持至递归自我改进阶段，未来数年系统能力可能迎来同等或更大维度的跃升，并更多地参与推动自身研发。
• 防御与干预诉求：OpenAI 提出将继续研发对齐与监控技术、构建防御系统，并在必要时单方面暂缓进一步扩大规模，同时认为需要更广泛的外部机制共同介入监管与应对。
• 影响/看点：这表明头部实验室对模型自我演进与安全失控风险的评估正在升级，若未来数年推理模型确在自我研发与代码安全领域显现超常能力，可能促使行业加速建立多方协作的安全防御与扩展干预标准。
• 资料依据：
• OpenAI News（2026-09-06）：https://openai.com/index/an-alien-mind

本内容由 AI 生成，仅供参考，请注意甄别