OpenAI 推出内部自动化红队工具 GPT-Red

OpenAI 推出内部自动化红队工具 GPT-Red，大规模发现提示注入漏洞。

• GPT-Red 是一个自动化红队工具，专门用于发现模型的提示注入漏洞。
• 它能在更广泛部署前帮助构建更强的防御。
• 该工具在内部使用，致力于提升模型安全性。
• 提示注入是当前大语言模型面临的主要安全挑战之一。
• 影响/看点：GPT-Red 的推出表明 OpenAI 正系统性地加强模型安全，自动化红队测试将成为 AI 安全的标准实践。