Simon Willison梳理近期AI政策公开信:微软牵头235家公司联署开放权重倡议

Simon Willison梳理了近期一连串关于AI开发方向的公开信,其中最重磅的是微软牵头、235家公司联署的《开放权重与美国AI领导力》,矛头直指美国政府可能以“安全”为由限制开放权重模型的倾向,这场表态战值得关注谁签了、谁没签。

• 联署方阵容庞大,英伟达、亚马逊、Y Combinator、Linux基金会在列,OpenAI是后来才补签的
• 公开信核心论点:只依赖闭源模型并不天然安全,少数闭源模型集中风险,一旦被攻破或滥用外部难以察觉;开放权重能让更广泛的社区检验、发现漏洞并持续改进
• 信中意外地为“蒸馏”(用一个模型的输出训练或改进另一个模型)公开背书,称其为长期存在的正当技术改进手段,而非窃取
• 最引人注意的缺席者是Anthropic,没有签署这封信,而是三天后单独发布了自己的《我们对开放权重模型的立场》表态
• 开放权重正从技术路线之争升级为政策游说战场,各家表态背后是对未来监管走向和自身商业定位的提前卡位。

本内容由 AI 生成，仅供参考，请注意甄别