近期，国家网信部门对“剪映”、“猫箱”App及“即梦AI”网站进行了依法查处。主要原因是这些平台存在未有效落实人工智能生成合成内容标识规定要求的问题，违反了《网络安全法》、《生成式人工智能服务管理暂行办法》以及《人工智能生成合成内容标识办法》等相关法律法规。对此，网信部门对上述平台采取了约谈、责令改正、警告等处置处罚措施，并表示将从严处理相关责任人。
此次事件的背景是人工智能生成内容（AIGC）技术的快速发展。AI生成的图片、视频和音频越来越逼真，普通人已难以轻易分辨真伪。监管部门指出，如果不对AI生成的内容加以明确标识，这些技术很可能被用于制造和传播不实信息、进行网络造谣甚至诈骗，扰乱社会公共秩序。如此前网络上出现过的“AI香港身份证”、“库克加入小米汽车”等AI造谣图，就显示了其潜在的误导性。
因此，监管部门强调，所有利用AI生成的内容，包括视频、文案、数字人、特效等，都必须进行显著标识，且这种标识应确保用户清晰可见，不易被去除。网信部门表示，此举旨在推动人工智能技术健康有序发展，切实维护网络空间的清朗和社会公共利益。这并非针对单一应用，而是对整个生成式AI服务领域的合规性提出明确要求，标志着对AI内容标识的监督管理力度将持续加大。
值得注意的是，在官方通报之外，许多用户也借此机会表达了对“剪映”App会员定价和功能设置的看法。一些评论指出其会员费用过高、部分基础功能被设为付费项，以及国内外版本功能存在差异等问题，这也成为了该事件中备受关注的一个民间讨论焦点。
此次约谈事件明确了监管机构对AI生成内容必须进行合规标识的立场，未来平台在发展AI功能的同时，必须将内容合规放在首要位置，确保技术的应用在法律法规的框架内进行。
