DeepMind CEO 提议前沿模型发布前需经专门机构安全评估

DeepMind CEO 提议前沿模型发布前需经专门机构安全评估，强调 AGI 的潜在影响。

• 哈萨比斯认为 AGI 几年内可能实现，其影响堪比“火”与“电”，冲击或达工业革命 10 倍。
• 提议美国牵头建立动态“标准制定机构”，要求前沿实验室在发布达到一定跑分门槛的模型前，提前 30 天提交安全评估。
• 评估内容包括网络安全、生物武器防御，以及测试模型是否会绕过安全护栏或欺骗人类。
• 通过评估的模型方可进入美国市场，严重时可协调实验室放慢开发节奏甚至停止开发。
• 影响/看点：该提案将安全评估前置，可能成为全球 AI 治理的标杆，但如何定义“前沿级模型”和评估标准仍是难点。