AI魔改经典生成数字泔水账号被处置 专项行动清理违规内容。近期，中央网信办组织开展了“清朗·整治AI应用乱象”专项行动的第二阶段工作，重点关注利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等问题。各地网信部门深入推进重点整治任务，督促网站平台集中清理各类违法不良信息，依法查处违规账号和移动应用程序。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。

专项行动开展以来，各地网信部门采取了一系列针对性治理措施。北京网信办指导网站平台全面升级审核策略，提升违规内容识别能力；上海网信办督促平台自查自纠，加大违法违规信息和账号查处力度，并推出AI应用知识普及包；浙江网信办对属地重点平台进行合规指导，依法查处一批问题突出的AI应用软件；广东网信办召开重点网站平台工作例会，点对点督促整改，确保专项行动取得实效。

各大网站平台积极响应专项行动部署，健全AI内容常态化治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台通过优化多模态识别模型、扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能，提高违规内容智能检测和拦截效率，加大对违规账号和信息的处置力度，畅通线索举报渠道。豆包、元宝、千问、文心一言等平台严格审核原始语料内容，限制违规内容输出，强化AI生成合成内容标识要求，从源头防范违法违规信息生成传播。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范和上架要求，对在架APP进行抽检复测，有效拦截违规应用入库。

专项行动期间，一批违法违规账号和应用受到处理。例如，一些账号滥用AI技术篡改经典名著，虚构低质猎奇剧情博取流量；部分账号利用AI生成合成虚假灾害现场、救援画面，编造不实社会热点信息，误导老年人；还有一些账号利用AI技术假冒公众人物形象，生成低俗内容牟利。此外，有些账号批量发布含有恐怖诡异、暴力低俗等画面内容，以及发布AI生成合成的未成年人怀孕、打架等内容，严重伤害未成年人身心健康。另外，一些账号为AI“托管”软件引流，模拟真人运营账号、评论互动，生成大量低质同质文案。对于这些行为，相关账号已被依法依约处置。

下一步，网信部门将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容的新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。

相关报道: