辛顿等多位学者联署公开信:呼吁保障第三方 AI 风险评估独立性

📡 IT之家2026-09-18 21:39

辛顿等数十位学者联署公开信,呼吁保障第三方评估人员独立访问权,不受 AI 实验室干预与报复。

AI 深度解读

由多家监督组织组成的 AI 评估机构论坛(AI Evaluator Forum)于2026年9月18日发布公开信,联合图灵奖得主杰弗里·辛顿(Geoffrey Hinton)、斯图尔特·罗素(Stuart Russell)等数十位学者,呼吁确立科技企业接受第三方 AI 风险评估的底线准则。

  • 公开信针对 OpenAI 与 Anthropic 此前承诺允许第三方评估人员进驻并获取员工级信息访问权限一事作出回应,明确独立评估的必要制度保障。
  • 信中提出第三方评估人员必须保持科学客观性与透明度,免受被评估企业的干预或报复,并有权公开发布评估结果。
  • 评估人员应获得与企业内部评估人员同等的系统、数据、工具及实体场所访问权限,并能直接与企业董事会等监督机构沟通。
  • 倡议各实验室引入涵盖生物科学风险、失控风险等多学科背景的外部评估专家,构建多元化的安全防线。
  • 影响/看点:该公开信意味着外部监管与学术界正在推动 AI 安全评估从企业自愿性的“公关承诺”转向具备制度约束力的独立审查机制,但能否实质落地取决于前沿实验室是否愿意在关键核心资产与专有数据上让渡不受限的审查权限。
  • 资料依据:
  • 商业内幕(2026-09-18):https://www.businessinsider.com/geoffrey-hinton-ai-evaluators-open-letter-openai-anthropic-2026-9
  • IT之家(2026-09-18):https://www.ithome.com/1/004/330.htm

本内容由 AI 生成,仅供参考,请注意甄别

查看原文 ↗
看实时 AI 热点雷达 实时信息流 · 事件聚类 · 订阅推送 —— 完整产品在 aihot.aicxd.com
AI 助手