[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"aihot-art-89469":3},{"itemId":4,"vertical":5,"category":6,"source":7,"score":8,"title":9,"summary":10,"analysis":11,"url":12,"coverUrl":13,"direction":13,"marketSignal":13,"publishedAt":14},"89469","ai","技巧与观点","MarkTechPost",58,"OpenAI 详解内部红队模型 GPT-Red：提示词注入攻击中以84%对13%击败人类红队","OpenAI公布内部自动化红队模型GPT-Red，在提示词注入攻击测试中以84%对13%的成功率击败人类红队。","OpenAI 公开了内部专用的自动化红队模型 GPT-Red 的细节:它的任务就是攻击 OpenAI 自家模型、挖掘提示词注入漏洞,在实测中以 84% 对 13% 的成功率碾压人类红队,还在训练中意外发现了新型攻击手法。\n\n· 立项动机很直接:人类红队耗时且不可扩展,常用的鲁棒性评测已经被最新模型「刷满分」失去区分度,而随着智能体读取浏览器、第三方应用、本地文件等外部数据,攻击面在持续扩大。\n· GPT-Red 不是静态题库或基准测试,而是一个像人类红队一样「发提示、看响应、迭代逼近目标」的动态攻击模型,训练算力达到 OpenAI 部分大规模后训练的量级,专门服务于安全用途。\n· 训练方式是攻防双方自博弈强化学习:GPT-Red 因成功诱发失败(比如提示词注入得手)获得奖励,一组防御模型因抵御攻击且仍完成原任务获得奖励,防御方不能靠「全部拒绝」蒙混过关,逼着双方同步变强。\n· 训练到后期,GPT-Red 几乎能攻破所有被测模型,包括内部及已上线的模型,直到 GPT-5.5 也不例外;过程中它还独立发现了「伪造思维链」攻击——在模型的推理笔记里插入虚假条目,诱导模型依据「自己以为已验证」的伪造信息行动。\n\n影响在于自动化红队正在成为对抗提示词注入等新型攻击面的标配武器,而「伪造思维链」这种攻击手法一旦扩散,会对所有依赖可见推理链做安全判断的智能体系统构成新的、更隐蔽的风险点。","https:\u002F\u002Fwww.marktechpost.com\u002F2026\u002F07\u002F16\u002Fopenai-details-gpt-red-an-internal-automated-red-teaming-model-that-beat-human-red-teamers-84-to-13-on-prompt-injection\u002F",null,"2026-07-17 02:48:04"]