Anthropic 披露多起绕过 Claude 安全机制用于生物武器研究的尝试

Anthropic 于 2026 年 9 月 11 日发布威胁情报报告，披露其阻截了多起试图绕过 Claude 安全机制用于潜在生物武器相关研究的尝试，这是行业首次由商业大模型公司公开详尽的生物安全攻防案例。

• 违规尝试特征：报告披露了 35 起涉及敏感研究的事件，其中重点列举了 5 起采取复杂手段试图规避技术防护或模糊研究目的的典型案例，部分请求源自受限制访问的国家和地区。
• 双用途识别困境：由于生物武器相关的技术信息与合法的疫苗开发、疾病防护研究高度重合，系统在判定用户意图是否具有恶意时面临复杂的双用途辨识挑战。
• 防护与协同响应：Anthropic 对涉及违规的账号执行封禁，并将相关攻防对抗案例沉淀至底层分类器与责任扩展政策（RSP）中，同时呼吁行业与政府建立更完善的生物风险防范机制。
• 影响/看点：该案例表明前沿大模型在生化等高危领域的防越狱与对齐技术已进入实战化阶段，未来能否在防范恶意扩散的同时避免过度误伤合法科学研究，将成为模型安全能力的关键考验。
• 资料依据：
• Ars Technica AI（2026-09-11）：https://arstechnica.com/ai/2026/09/claude-users-found-ways-around-safeguards-for-bioweapons-research/
• Anthropic 官方报告（2026-09-11）：https://www.anthropic.com/news/threat-intelligence-biological-risks

本内容由 AI 生成，仅供参考，请注意甄别