近期，中央网信办组织开展“清朗·整治AI应用乱象”专项行动第二阶段工作，聚焦利用AI（人工智能）制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题开展集中整治。截至9月2日，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。科技向善，方能行稳致远。此次专项行动有效遏制AI生成合成信息内容乱象，推动AI应用向上向善发展。

人工智能技术迭代提速，在赋能生产生活的同时，各类风险隐患相伴而生。从“魔改”经典作品，到虚构灾害现场，再到AI“换脸”“换声”冒充公众人物，种种乱象表明，部分AI工具正在沦为制造谣言、博取流量的工具。

AI降低了内容生产门槛。过去制作一条违规内容，需要拍摄、剪辑、配音等诸多环境，耗费大量人力物力；如今普通人借助工具，便可一键生成图文音视频。技术升级本身并非过错，真正的问题在于“流量至上”的逻辑为AI内容生产乱象提供了生存土壤。内容越是猎奇夸张、突破伦理底线，越容易博取关注度成为网络“爆款”，部分平台的算法推荐机制，客观上扮演了不良内容传播的“放大器”。

治理AI乱象，重在关口前移、全链条设防。首先，建立健全法律法规，落实生成式人工智能服务管理要求，为AI内容生产划定清晰法律标尺。2025年9月1日起施行的《人工智能生成合成内容标识办法》，要求所有AI生成内容“亮明身份”，正是从制度层面为治理提供了抓手。其次，科技企业要严格落实大模型备案制度，训练数据要合规、内容输出要管控。第三，压实平台主体责任，建立分级审核机制。面对重大公共事件、社会热点、公共安全、未成年人和公众人物等高风险内容，平台应当让人工介入进行复审，加强内容把关。同时，内容生产者也要恪守底线，拒绝追逐低俗噱头，不跟风炮制博眼球的虚假合成内容；社会公众同样需要持续提升媒介素养，自觉抵制虚假猎奇作品。

人工智能是这个时代最具变革性的技术力量之一。但技术红利的释放，永远建立在安全与秩序之上。政府监管、平台履责、行业自律、公众监督，多方协同构建全链条治理体系，才能让人工智能真正向善而行。

作者：武晓雅（山西大学新闻与传播学院）

指导老师：韩晓芳