1132 名前沿 AI 研究员联名呼吁放缓自动化 AI 开发
1132名前沿AI研究员联名致信美国政府，呼吁建立国际治理机制放缓AI递归自我改进研发。
AI 深度解读
一份公开信,把行业内部对失控风险的忧虑摆上了台面,联署规模罕见地大。
- 签名来自OpenAI、Anthropic、Google、Meta等头部实验室的在职前沿研究员,共1132人
- 核心担忧是「递归自我改进」——模型自主编写实验、运行评估、分析失败原因、提出改进方案,一旦这个闭环完全脱离人类介入,每一代模型打造更强后继者所需的时间会持续缩短
- 请愿的诉求不是叫停研发,而是建立国际层面的监控与治理工具
- 信中特别点出,单靠某一家公司或某一个国家主动放缓并不现实,竞争压力会抵消任何单边行动,协调必须在窗口关闭前完成
- 这是行业一线研究员而非外部监管者发出的警讯,信号意义大于短期约束力,值得持续关注后续是否有实质政策回应。
本内容由 AI 生成，仅供参考，请注意甄别