百余名 AI 专家联署公开信:向前沿模型开发商提出嵌入式外部评估五项要求
百余位AI专家联署公开信,要求前沿模型厂商在前沿评估中保障评估者独立性并开放高权限访问。
AI 深度解读
2026 年 9 月 18 日,由 AI Evaluator Forum 发起、超百名人工智能领域专家联署的公开信正式发布,针对前沿模型开发商呼吁建立具备实质独立性的嵌入式外部评估机制。
- 据 AI Evaluator Forum 于 2026 年 9 月 18 日发布的公开信,联署学者包括 Geoffrey Hinton、Stuart Russell 等百余位研究人员与机构负责人。
- 信中向前沿 AI 开发商提出五项基准要求:保障评估者的完全编辑独立性、引入多家不同专业背景的独立评估机构、公开运作条款与研究方法、建立防报复与诉讼豁免机制、以及提供等同于内部高权限员工的系统与数据访问权限。
- 评估论坛同时启动新成员招募与独立资金募集,旨在推动已在部分机构试行的 AEF-1 等评估标准制度化。
- 影响/看点:该倡议可能促使头部 AI 实验室在安全性外部审计上提高透明度,但其实际成效取决于开发商是否真正让渡权限以及独立资金能否支撑长期评估开支。
- 资料依据:
- AI Evaluator Forum(2026-09-18):https://aievaluatorforum.org/initiatives/embedded-evaluation-letter
- AI Evaluator Forum(2026-09-18):https://x.com/aievalforum/status/2100949348351877535
- Nathan Lambert(2026-09-18):https://x.com/natolambert/status/2100951110387192272
本内容由 AI 生成,仅供参考,请注意甄别