证券时报记者 郭博昊
7月6日，中央网信办发布“清朗·整治AI应用乱象”专项行动第一阶段治理成果。专项行动自2026年4月启动以来，在各方共同努力下，累计处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个。
中央网信办表示，专项行动聚焦未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位等AI应用乱象，部署各地网信部门深入推进第一阶段重点整治任务。
各地网信部门认真履行属地管理责任，结合实际采取有效监督管理措施。如：北京网信办建立“平台自查+常态巡查+技术筛查+线索核查”联动工作机制，及时下架一批违规AI应用和运营账号；上海网信办针对平台类型细化工作要求，指导平台升级举报机制、主动发布治理公告；浙江网信办从模型审核能力、训练语料安全、AI数据投毒等多维度，组织开展优化语义判断能力、高频回归测试等针对性整改；江苏网信办开设AI应用乱象专项举报窗口，收集AI数据投毒、未落实生成合成内容标识要求等5类违法违规情形举报线索，及时核实处置；广东网信办建立属地多部门协调监管机制，综合运用技术巡查、人工复核、现场督导、约谈惩戒方式开展AI应用乱象全链条治理等。
重点网站平台积极履行主体管理责任，有针对性地加强管控。如：华为在应用商店中增加生成式人工智能服务备案和标识专项审核；阿里巴巴完善数字指纹比对与关键词拦截机制，提升违法违规内容识别精度；智谱构建多模态审核模型，针对多轮对话意图反转等复杂场景开展交叉复核；稀宇及时识别阻断利用AI编写病毒、钓鱼软件等恶意行为；DeepSeek在数据采集和预处理环节嵌入异常检测算法，防止恶意样本隐蔽操控等。
记者注意到，近期“东鹏特饮创始人不喝自家产品”的传言，正是AI炮制网络谣言的典型案例。经查，罗某某为引流牟利，借助AI工具捏造不实内容并大范围扩散，给涉事企业的品牌声誉造成恶劣影响，目前其已被公安机关依法刑事拘留。与此同时，短视频赛道AI滥用问题突出，恶意魔改经典影视形象、盗用他人人脸信息生成内容等乱象层出不穷。
中央网信办表示，下一步炒股配资平台网，将聚焦利用AI技术制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等突出问题，开展“清朗·整治AI应用乱象”专项行动第二阶段工作，加大违规账号和机构查处力度，加强AI应用重点环节管理，督促平台提升AI防治能力，着力维护清朗网络生态，推动人工智能向善向好。
牛途网提示：文章来自网络，不代表本站观点。
