辛顿提议建立 FDA 式 AI 上市安全审批机制

杰弗里·辛顿在播客中提出，AI 产品发布前应接受类似 FDA 的安全审批，关注价值在于把当前以企业自测和事后治理为主的模型监管讨论，推进到上市前审查机制层面。

• IT之家 2026 年 10 月 7 日转述，辛顿建议 AI 公司在产品正式发布前向监管机构证明安全性，并以药品审批作类比。
• 这一主张针对的是高风险模型可能带来的权限失控、持续运行和自我改进风险，核心问题是由谁审查、审查什么以及责任如何划分。
• FDA 的 AI 医疗器械清单显示，相关设备需要满足适用的上市前要求，并接受与预期用途和技术特征相关的安全性、有效性审查；这说明 FDA 模式依赖明确的产品范围和风险分类。
• 将该机制直接扩展到通用 AI，可能面临模型用途多变、版本频繁更新、风险难以单一量化等制度设计问题。
• 影响/看点：若未来只对高影响或高能力系统实施分级上市前审查，可能提高安全验证成本并延缓发布速度；其可行性取决于风险阈值、审查能力、更新规则和跨境协调。
• 资料依据:
• IT之家（2026-10-07）：辛顿提议 AI 行业建立 FDA 式审批机制 https://www.ithome.com/1/010/187.htm
• 美国食品药品监督管理局 FDA（2026-06-29）：List of Artificial Intelligence-Enabled Medical Devices https://www.fda.gov/medical-devices/artificial-intelligence-enabled-medical-devices/list-artificial-intelligence-enabled-medical-devices

本内容由 AI 生成，仅供参考，请注意甄别