Gary Marcus 撰文呼吁公众抵制缺乏安全监管的生成式 AI

AI 学者 Gary Marcus 在 Substack 撰文公开呼吁公众抵制缺乏可靠对齐与安全监管的生成式 AI，引发关于前沿模型失控风险与行业治理的严肃讨论。

• Marcus 指出当前头部实验室公开承认尚无针对超智能对齐问题的成熟解决方案，但仍在加速推进具备联网与高自主权系统的部署。
• 他认为人类面临的核心风险并非物种灭绝，而是由不可靠、非确定性的概率大模型所引发的灾难性事件（如网络安全破坏与虚假信息冲击）。
• 文章主张在技术上重构可信且确定性的 AI 系统，并在政府与实验室建立起切实有效的治理机制之前，暂停向不可控 AI 开放互联网权限与现实控制接口。
• 影响/看点：该观点反映出学术界与公众对当前 AI 商业化狂奔中安全赤字的担忧加剧，可能推动立法机构和行业对前沿模型的网络访问权限施加更为严格的前置审查。
• 资料依据：
• Gary Marcus Substack（2026-09-09）：https://garymarcus.substack.com/p/the-case-for-boycotting-generative

本内容由 AI 生成，仅供参考，请注意甄别