记者从“网信中国”获悉，中央网信办聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。南都N视频此前持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

“AI魔改”视频截图。

多个AI“换脸”“换声”账号被处置

据了解，中央网信办组织开展“清朗·整治AI应用乱象”专项行动以来，各地网信部门切实履行属地监管责任，因地制宜推出一系列针对性治理措施。网站平台积极响应专项行动部署安排，持续健全AI内容常态化治理机制。

据“网信中国”披露，专项行动期间，一批违法违规账号和应用受到处理。典型案例包括，利用AI“魔改”经典、生成“数字泔水”。账号“天**小”“歪**国”“小*菌”“咸*i”等，滥用AI技术“魔改”《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量。相关账号已被依法依约处置。

AI制作发布虚假不实信息。账号“云**视”“有*头”“7**员”“长**帆”等，利用AI生成合成虚假灾害现场、救援画面，编造不实社会热点信息，发布封建迷信内容，打造AI数字人进行虚假宣传带货，误导老年人，制造恐慌情绪。相关账号已被依法依约处置。

相关报道: