Anthropic 称 Claude 被用于无人机群及武器研发，已采取拦截措施

Anthropic 于 2026 年 9 月 10 日发布威胁情报报告并经彭博社报道，披露其 Claude 模型被尝试用于无人机群作战及武器导航研发等恶意军事活动。

• 报告记录了利用 Claude 编写针对制导火箭和弹道导弹的制导、导航与控制软件的案例。
• 披露了涉案人员尝试利用模型生成自主无人机群识别与打击目标代码的违规活动。
• 报告同时梳理了涉及生物安全领域潜在有害病原体研究的违规提问。
• Anthropic 团队通过行为分析与威胁情报追踪阻断了相关账户，并强化了针对武器开发场景的过滤分类器。
• 影响/看点在于大模型强大的代码与逻辑生成能力正持续遭受物理武器领域的逆向利用风险，这意味着头部 AI 实验室必须在提高模型能力的同时持续加固多模态与自主代理环境下的安全防线。
• 资料依据：
• Anthropic（2026-09-10）：https://www.anthropic.com/news/detecting-and-countering-misuse-of-ai-september-2026
• Bloomberg（2026-09-11）：https://www.bloomberg.com/news/articles/2026-09-11/anthropic-says-us-adversaries-aimed-claude-at-weapons-research

本内容由 AI 生成，仅供参考，请注意甄别