OpenAI 首席科学家 Jakub Pachocki 发文呼吁放缓扩展步伐，警惕系统安全与对齐失控

OpenAI 首席科学家 Jakub Pachocki 在官方文章《An Alien Mind》中发文警示，当前尚无研究机构在对齐与监控领域建立足够保障以支撑全速模型扩展，呼吁行业放缓扩展步伐。

• 指出目前没有任何实验室已将模型对齐与监控能力解决到足以安全维持最大速度扩展的程度。
• 呼吁前沿实验室在建立通用安全与对齐标准前自愿放缓扩展，并表示 OpenAI 在必要时可能考虑单方面暂停进一步扩展。
• 预计未来可能出现显著超越人类智能水平的系统，重点警惕模型在计算机系统渗透、逃逸与脱控方面的潜在超人能力。
• 影响/看点：该声明表明头部大模型机构对前沿安全风险的评估正在提升，若行业未能达成具有约束力的自愿放缓共识，单方面暂停扩展可能在商业竞争与安全治理之间引发新的博弈与分化。
• 资料依据：
• OpenAI 官方博客（2026-09-06）：https://openai.com/index/an-alien-mind/
• X 平台 Rohan Paul（2026-09-06）：https://x.com/rohanpaul_ai/status/2096689895024599298

本内容由 AI 生成，仅供参考，请注意甄别