xAI 起诉用户利用 Grok 生成儿童性虐待深度伪造内容

xAI 起诉一名男子利用 Grok 生成儿童性虐待深度伪造内容，这是 AI 安全治理的标志性案例。

• 被告 Terry Wayne Harwood 被指控“明知且故意”使用 Grok 绕过安全措施，生成并传播儿童性虐待材料（CSAM）。
• 该男子已于今年 2 月因涉嫌持有和传播 CSAM 被捕，面临 8 项重罪指控。
• xAI 在诉讼中称，至少部分与 Harwood 刑事指控相关的图像是由 Grok 生成或修改的。
• 此案凸显了 AI 生成内容被滥用于非法目的的风险，以及平台在内容安全方面的责任。
• 影响/看点：这是 AI 公司首次因用户滥用其生成式 AI 工具而提起的诉讼，可能为行业树立法律先例，推动更严格的安全措施和用户行为监管。