133家机构联名支持开源，Anthropic未签署引发争议

133家机构联名呼吁美国政府不要过早限制开放权重AI模型，却唯独不见Anthropic的身影，引发行业对AI开源安全性的激烈争论，值得关注。

• 联名信由英伟达、微软、Meta、Hugging Face等发起，截至7月28日已有133家机构签署，强调开放权重能扩大访问、促进竞争并增强客户控制，且开放本身有助于提升安全性。
• Anthropic缺席被前AI事务负责人David Sacks等人公开批评，CEO达里奥随后发文澄清：Anthropic从未主张禁止开源，但担忧超大模型开源后可能被用于生物武器等高风险场景。
• 达里奥提出两条替代思路：一是通过法律框架管住工业规模的非法蒸馏，二是对足够强的模型（无论开源闭源）实施发布前统一安全测试，按能力分级管理。
• 争议核心在于“开放是否必然让防御者更受益”——Anthropic认为在生物安全等领域，攻击者可能更快利用开源模型，防御却需数年。
• 这场论战揭示了开源与安全的永恒张力，Anthropic的独立立场可能影响未来AI监管政策的走向，看点在于行业能否达成按能力而非按开源与否进行分级监管的共识。

本内容由 AI 生成，仅供参考，请注意甄别