Anthropic：用 Claude 大规模形式化验证开源软件安全性

Anthropic 发布研究，介绍使用 Claude 为 123 个真实开源库的 239 个入口生成并验证形式化证明，关注价值在于大型语言模型开始被用于把软件测试和安全属性转化为可由证明检查器复核的结果。

• Anthropic 于 2026-10-22 发布研究，称证明工作覆盖 RISC-V 编译后的程序，并在特定输入范围、操作系统模型和单线程静态二进制假设下验证无崩溃属性。
• 研究团队表示，Claude 在证明过程中发现并修复了部分此前未被发现的漏洞，但这不等于代码整体不存在缺陷。
• 证明依赖 RISC-V、Linux 进程语义、定理陈述和 Rocq 检查器等可信组件，模型与真实部署环境之间仍存在差异。
• 该方法把已有模糊测试入口转化为形式化规格，扩大了自动化验证的适用范围，但规格是否完整仍由人工和系统建模决定。
• 影响/看点：如果证明生成成本继续下降并覆盖更多架构，形式化验证可能更容易进入普通开源项目；实际安全收益取决于规格质量、可信组件和部署环境是否被准确建模。
• 资料依据:
• Anthropic《LLMs are making formal software verification feasible at a much larger scale》（2026-10-22）：https://www.anthropic.com/research/formal-verification

本内容由 AI 生成，仅供参考，请注意甄别