网信办通报整治 AI 应用乱象：豆包、千问等主流大模型严控违规内容输出

中央网信办通报“清朗 · 整治 AI 应用乱象”专项行动第二阶段成果，重点遏制生成合成技术被滥用于制造虚假信息、低俗营销与侵权内容。

• 通报显示专项行动已累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，下架或处置违规网站及应用程序 2400 余个。
• 监管部门重点查处了六类违规行为，包括利用 AI “魔改”经典名著（被称为“数字泔水”）、伪造灾害画面与虚假带货、换脸换声侵权营利、传播暴力恐怖、发布侵害未成年人身心健康的“毒动画”以及利用 AI 托管软件充当网络水军。
• 豆包、元宝、千问、文心一言等主流大模型被督促严控原始语料审核并落实生成合成内容标识，主流应用商店亦强化在架 App 抽检与准入拦截。
• 影响/看点：这意味着国内对生成式 AI 的监管正从原则性规范转向常态化内容巡检与源头治理，如果平台未能有效建立多模态识别与溯源水印机制，可能面临下架、罚款或接入受限等合规风险。
• 资料依据：
• 中央网信办（2026-09-02）：https://www.cac.gov.cn/2026-09/02/c_1790099041364574.htm
• IT之家（2026-09-02）：https://www.ithome.com/0/997/363.htm

本内容由 AI 生成，仅供参考，请注意甄别