AI 护栏机制正在阻碍进攻性网络安全研究

TechCrunch 走访多位从事漏洞挖掘与攻击性研究(offensive security)的网络安全研究者,揭示 OpenAI、Anthropic 等厂商为防止模型被用于制作恶意代码而设的安全护栏,正在实质性拖慢正规攻防研究的进度——这类一刀切式拦截,让本该被信任的白帽工作也频频撞墙,值得从业者关注。

• 护栏机制普遍按“是否涉及漏洞利用/exploit开发”做粗粒度拦截,难以区分攻击者与授权安全研究员的意图
• 研究者反映常需反复改写提示、拆解任务甚至切换到未设防护的模型才能完成分析,拉长了正常研究周期
• 部分人认为这种设计客观上把专业攻防能力让渡给愿意绕过限制的恶意行为者,反而削弱防御一方
• 报道指出问题根源在于厂商难以低成本区分“善意研究”与“恶意攻击”,导致护栏倾向于过度拦截而非精准识别
• 事件被置于 OpenAI 与 Anthropic 网络安全能力军备竞赛的大背景下,凸显安全对齐与实用性之间的张力
• 看点:这类摩擦可能推动厂商推出面向可信安全研究者的分级权限或“白名单”机制,值得关注后续产品动作。

本内容由 AI 生成，仅供参考，请注意甄别