SpaceXAI 起诉 Grok 用户制作非法深度伪造内容

SpaceXAI 起诉一名 Grok 用户，指控其制作非法深度伪造内容（CSAM）。

• 该用户创建虚假账户，多次绕过安全机制，将成人与儿童照片转换为 CSAM。
• SpaceXAI 的检测与报告协助警方逮捕该用户，其面临南卡罗来纳州八项重罪指控。
• 2026 年，SpaceXAI 已封禁 52,222 个账户，向 NCMEC 提交 73,604 份报告，协助至少 244 人被捕。
• 影响/看点：此案展示了 AI 平台在内容安全上的主动执法角色，通过技术检测与法律手段结合，打击深度伪造犯罪，但也引发对用户隐私与监控平衡的讨论。