国内首例利用AI提示词“越狱”制作淫秽内容牟利案宣判：主犯获刑

2026年9月8日，据央视中国之声报道，浙江省余姚市人民法院近日审结国内首起通过提示词工程绕过安全限制、利用生成式 AI 制作并销售淫秽物品的刑事案件，主犯郑某等 6 人获刑。

• 判决认定被告人通过编写提示词与设置特定角色卡突破通用大模型内置的安全过滤机制，搭建境外付费聊天与图像生成服务，累计生成数万张被认定为淫秽物品的图片并牟利约 17 万元。
• 法院在裁判要旨中明确阐释“技术中立不能成为违法挡箭牌”，指出开发者若主动破坏模型伦理防护、搭建违法内容生成的技术环境，则对生成结果具备实质控制力，依法构成刑法意义上的“制作者”。
• 该案结合了最高人民法院近期发布的审理涉 AI 纠纷案件相关司法意见，为利用生成式 AI 实施违法犯罪的责任界定确立了清晰的司法裁判先例。
• 影响/看点：该案确立了 AI 提示词绕过与应用封装层面的刑事追责边界，意味着围绕大模型的二次开发与服务运营必须建立严格的内容风控机制以规避连带刑事责任。
• 资料依据：
• IT之家（2026-09-08）：https://www.ithome.com/0/999/811.htm
• 央广网中国之声（2026-09-08）：https://china.cnr.cn/yaowen/20260908/t20260908_527014389.shtml

本内容由 AI 生成，仅供参考，请注意甄别