各地网信办发布“清朗·整治AI技术滥用”第一阶段成果

“清朗·整治AI技术滥用”行动从2025年4月起开始施行至今，各地网信办纷纷发表第一阶段的整治成果，专项行动明确表示：利用生成式人工智能技术向境内公众提供服务，但未履行大模型备案或登记程序的产品，列为首类违规整治产品。

下面我们一起来看下各地网信办第一阶段的整治情况

一、浙江省

浙江省委网信办指导通义、deepseek等重点网站平台集中清理违规AI产品及相关的各类违法违规信息2550万余条，累计处置违规账号100余个。

组织200余家平台企业参加人工智能标识办法宣讲会，指导企业完善内容审核等安全措施，提高违规内容拦截率。

二、江苏省

重点清查网上提供生成式人工智能服务但未履行大模型备案或登记程序的违法违规应用，排查接入地为江苏的AI风险域名163个，封堵和取消接入域名18个。

累计排查提供生成式人工智能应用但未履行大模型备案（或登记）的网站50个，APP应用42个，督导限期备案（登记）

对已备案（登记）的48款生成式人工智能应用开展风险测试评估，查找薄弱风险点，提升线上人工智能应用安全风险防范能力。

三、天津市

组织16个区对属地5万余家网站，1万余个APP进行排查。对1家企业提供AI应用违规产品的企业进行约谈教育，责令整改注销问题网站，目前涉事网站均已关闭。

排查发现部分企业调用已备案生成式人工智能服务API未登记，直接提供生成式人工智能服务的情况，已联系企业开展登记工作。

组织开展全网未备案登记生成式人工智能服务相关教程及有害信息巡查整治工作，处置涉生成式人工智能服务有害信息40余条。

四、上海市

对3款未履行备案或登记程序提供服务且存在风险的应用，依法约谈并给予行政处罚。迄今已完成82款大模型备案，87款应用登记。

对小红书、哔哩哔哩、拼多多等重点网站和AI平台共拦截清理相关违法违规信息82万余条 ，处置违规账号1400余个，下线违规智能体2700余个

五、北京市

全市已备案大模型未发现违规功能。微博清理传播教授AI换脸教程内容162条，关闭账号22个，清理分享售卖违规AI产品类有害信息234条，关闭账号52个；抖音清理AI生成的虚假信息、低俗内容等24749条。

六、广东省

对6款未履行上线合规手续、存在违规风险的AI应用依法约谈并督促整改。迄今已完成66款大模型备案、17款应用登记。

指导腾讯应用宝、华为应用市场、微信小程序等重点应用程序分发平台加大AI服务和应用上架审核力度，重点核验相关应用主体算法备案、大模型备案等资质。

对未履行大模型备案或登记程序、提供不合规功能、未按要求标识等违规AI服务的APP及时采取限期整改、下架等措施处置。

各重点网站平台拦截清理售卖违规AI产品教程或商品、假冒仿冒、不当营销等信息8260余条，处置违规账号470余个。应用程序分发平台审核驳回存在违法违规内容、未提供有关资质等问题的小程序及APP共760余款，巡查发现并整改处置违规小程序及APP共350余款。

下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作。

各AI企业应做好自查，自觉履行算法备案和大模型备案等相关手续，有其他备案相关的问题欢迎随时后台交流~