Demis Hassabis 长帖：AGI 可能仅剩几年，提议建 FINRA 式自律机构

Demis Hassabis 预测 AGI 可能仅剩几年，并提议建立 FINRA 式自律机构来监管前沿 AI。

• 他警告前沿模型已在网络安全展现实际威胁，多代理系统出现绕过护栏等问题。
• 提议由行业出资建立自律机构，只监管最头部实验室，发布前自愿提交审查。
• 基准每季度更新，重点测试代理系统的欺骗行为，并强制输出可读推理 token。
• 这一提议旨在在 AGI 到来前建立有效的安全机制。
• 看点：Hassabis 的提议为 AI 治理提供了具体可行的路径，可能影响未来监管框架。