OpenAI 称 AI Agent 已可胜任研究实习生,首席科学家警示对齐监控风险

📡 The Decoder2026-09-07 21:05

OpenAI称其AI智能体已可胜任研究实习生工作,但首席科学家警告当前对齐与监控能力仍存风险。

AI 深度解读

OpenAI 披露其内部研究中 AI Agent 承担的工作量已达人类研究员的 3.1 倍并实现“自动化研究实习生”目标,同时首席科学家 Jakub Pachocki 发文警示模型对齐与监控能力尚未跟上扩展速度,展现出前沿研发提速与安全治理之间的张力。

  • 根据 OpenAI 2026 年 9 月 7 日发布的数据,其研究机构内 AI Agent 的计算工作量已达人类每工作日的 3.1 个工作日当量,可独立完成需熟练研究员数天处理的明确研究任务。
  • OpenAI 首席科学家 Jakub Pachocki 于 2026 年 9 月 7 日发表署名文章《An Alien Mind》,指出目前尚无任何实验室在对齐与监控领域建立足够掌控力,无法支持长期以最高速度推进模型扩展。
  • Pachocki 呼吁在缺乏成熟安全监控标准前行业应考虑自愿放缓研发节奏,以防范不可控的自主智能风险。
  • 影响/看点:这一表态意味着前沿 AI 实验室在推动研究自动化提效的同时,内部对齐与监管风险或将倒逼行业建立更严格的安全评估门槛,但自愿放缓能否落实取决于主要厂商之间的竞争博弈。
  • 资料依据:
  • OpenAI(2026-09-07):https://openai.com/index/an-alien-mind/
  • The Decoder(2026-09-07):https://the-decoder.com/openai-reports-ai-research-interns-and-warns-about-its-own-pace-at-the-same-time/

本内容由 AI 生成,仅供参考,请注意甄别

查看原文 ↗
看实时 AI 热点雷达 实时信息流 · 事件聚类 · 订阅推送 —— 完整产品在 aihot.aicxd.com
AI 助手