[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"aihot-art-86768":3},{"itemId":4,"vertical":5,"category":6,"source":7,"score":8,"title":9,"summary":10,"analysis":11,"url":12,"coverUrl":13,"direction":13,"marketSignal":13,"publishedAt":14},"86768","ai","论文研究","OpenAI News",74,"GPT-Red：通过自我对弈提升鲁棒性的自动化红队系统","OpenAI 推出 GPT-Red 自动化红队系统，通过自我对弈提升 AI 安全性与鲁棒性。","OpenAI 发布 GPT-Red，通过自我对弈自动化红队测试，提升模型鲁棒性。\n· 红队测试是发现模型漏洞的关键，但人工方式难以规模化。\n· GPT-Red 是一个自动化红队模型，能生成大量对抗性攻击样本。\n· 使用 GPT-Red 对 GPT-5.6 进行对抗训练，显著提升了其对提示注入攻击的抵抗力。\n· 该方法将与人红队、分层防护和实时监控结合，形成综合安全体系。\n· 自动化红队实现了安全领域的自我改进：用当前模型帮助未来模型更安全。\n看点：GPT-Red 标志着 AI 安全从人工主导转向自动化规模化，但需警惕自动化攻击的滥用风险。","https:\u002F\u002Fopenai.com\u002Findex\u002Funlocking-self-improvement-gpt-red",null,"2026-07-15 18:00:00"]