[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"aihot-art-86931":3},{"itemId":4,"vertical":5,"category":6,"source":7,"score":8,"title":9,"summary":10,"analysis":11,"url":12,"coverUrl":13,"direction":13,"marketSignal":13,"publishedAt":14},"86931","ai","行业动态","The Verge AI",60,"xAI 起诉用户利用 Grok 生成儿童性虐待深度伪造内容","xAI 起诉一名用户，指控其利用 Grok 生成儿童性虐待深度伪造内容。","xAI 起诉一名男子利用 Grok 生成儿童性虐待深度伪造内容，这是 AI 安全治理的标志性案例。\n· 被告 Terry Wayne Harwood 被指控“明知且故意”使用 Grok 绕过安全措施，生成并传播儿童性虐待材料（CSAM）。\n· 该男子已于今年 2 月因涉嫌持有和传播 CSAM 被捕，面临 8 项重罪指控。\n· xAI 在诉讼中称，至少部分与 Harwood 刑事指控相关的图像是由 Grok 生成或修改的。\n· 此案凸显了 AI 生成内容被滥用于非法目的的风险，以及平台在内容安全方面的责任。\n影响\u002F看点：这是 AI 公司首次因用户滥用其生成式 AI 工具而提起的诉讼，可能为行业树立法律先例，推动更严格的安全措施和用户行为监管。","https:\u002F\u002Fwww.theverge.com\u002Fai-artificial-intelligence\u002F966293\u002Fxai-grok-user-lawsuit-csam",null,"2026-07-16 05:33:20"]