OpenAI 发布内部红队模型 GPT-Red，用于发现提示注入漏洞

OpenAI 发布内部红队模型 GPT-Red，用于大规模发现提示注入漏洞。

• GPT-Red 是一个自动化红队工具，能高效生成提示注入攻击。
• 此前 OpenAI 的模型对 GPT-Red 的攻击高度脆弱。
• OpenAI 利用 GPT-Red 对 GPT-5.6 进行对抗训练，显著提升了模型对提示注入的鲁棒性。
• 影响/看点：GPT-Red 展示了以 AI 对抗 AI 的安全策略，通过自动化红队测试，在模型广泛部署前强化防御，为 AI 安全实践提供了新范式。