OpenAI 用 AI 攻击自家 AI,成功率 84% 远超人类
OpenAI 用 AI 模型 GPT-Red 攻击自家 AI,成功率 84%,远超人类。
AI 深度解读
OpenAI 使用内部 GPT-Red 模型攻击自家 AI,在 84% 的测试场景中成功找到漏洞,远超人类红队 13% 的成功率。
- GPT-Red 通过自对弈训练,能高效发现模型弱点。
- 结果直接用于加固 GPT-5.6 Sol 等模型。
- 该方法大幅提升安全测试效率,降低人力成本。
- 标志着 AI 安全测试从人工向自动化转变。
- 影响/看点:AI 自我攻击成为模型安全的新标准,可能重塑 AI 安全行业。