OpenAI 新模型 Astra 采用“循环深度”非线性推理技术,引发安全专家关注
OpenAI 新模型 Astra 引入循环深度技术实现非线性推理,因其行为更难预测而引发 AI 安全专家的担忧。
AI 深度解读
TechCrunch 于 2026 年 9 月 2 日报道,OpenAI 拟在新模型 Astra 中采用名为「循环深度」(recurrent depth)的非线性推理技术,引发了 AI 安全领域对显式思维链可监控性的讨论。
- 探索潜空间循环推理:该技术允许模型在潜空间内多次循环处理同一查询,突破了传统思维链纯粹依赖显式 token 序列展开的线性模式。
- 安全界表达审计担忧:部分安全研究人员指出,隐式循环推理若被过度放大,可能削弱外部对模型思维链(CoT)的可读性与对齐监控效果。
- 官方表态维持可见度:OpenAI 首席科学家 Jakub Pachocki 澄清称,该技术在 Astra 中的应用受限,且 OpenAI 的核心安全体系始终致力于利用可读的思维链进行监控。
- 行业多方跟进评估:报道提及 Anthropic 与 Google DeepMind 等机构亦在关注类似机制在推理效率与透明度之间的平衡。
- 影响/看点:非线性潜空间推理的探索可能进一步提升大模型处理复杂逻辑的效率,但若无法同步建立隐式状态下的可解释性审计工具,将加剧行业在性能突破与安全合规可监控性之间的博弈。
- 资料依据:
- TechCrunch(2026-09-02):https://techcrunch.com/2026/09/02/openais-new-reasoning-technique-alarms-ai-safety-experts/
- Jakub Pachocki 在 X 平台发布(2026-09-02):https://x.com/merettm/status/2095023204993490967
本内容由 AI 生成,仅供参考,请注意甄别