网信办清朗行动累计清理违规信息 561 万条

第二阶段重点整治 AI 乱象，查处账号 4.9 万个，处置违规应用 2400 余个。

据 Woofun AI 消息，中国中央网信办近期开展"清朗·整治 AI 应用乱象"专项行动第二阶段，重点整治利用 AI 生成虚假信息、暴力低俗内容及侵害未成年人权益等问题。截至目前，专项行动已累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站及应用程序等 2400 余个。

在 AI 内容治理方面，抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台强化多模态识别能力，动态扩充人脸库、声纹库及违规样本库，累计发布各类治理公告 46 期。豆包、元宝、千问、文心一言等 AI 平台严把原始语料审核关，严格限制违规内容输出，并强化 AI 生成合成内容标识要求。华为、小米、OPPO、vivo 等应用商店加强 App 开发者准入和上架审核，对在架应用开展抽检复测。

专项行动期间，网信部门通报多起典型案例，包括利用 AI "魔改"经典名著、生成虚假灾害及社会热点信息、AI 换脸换声假冒公众人物、批量制作暴力低俗内容、利用 AI 生成侵害未成年人权益的信息，以及使用 AI "托管"软件从事网络水军活动等。对于违规 AI 产品和应用，相关部门将依法采取警告、罚款、下架或关闭等措施。