2026年4月28日,国家互联网信息办公室通报,“剪映”“猫箱”App及“即梦AI”网站因未有效落实人工智能生成合成内容标识规定要求,被依法采取约谈、责令改正、警告及从严处理责任人等处置措施。上述平台违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》以及2025年9月正式施行的《人工智能生成合成内容标识办法》。此次执法行动是《标识办法》实施以来首次针对主流应用平台的大规模集中查处,标志着我国对AI生成内容的监管进入实质性落地阶段。网信部门强调,平台必须严守法律底线,严格落实AI内容标识义务,切实维护社会公共利益和网络空间秩序。123 根据通报内容,涉事平台的主要问题在于未按法规要求对AI生成或合成的内容进行有效标识。《人工智能生成合成内容标识办法》明确规定,服务提供者须在生成内容中同步嵌入显式或隐式标识,确保用户可识别内容来源。显式标识需以文字、声音或图形形式直接呈现,如标注“AI生成画面”;隐式标识则通过元数据嵌入技术信息,用于溯源追踪。然而,“剪映”等平台在提供AI视频编辑、智能配音、图像生成等功能时,大量输出内容未携带任何合规标识,导致用户无法区分真实与合成信息,增加了虚假信息传播与认知误导的风险。国家网信办指出,此类行为不仅违反法定标识义务,也削弱了公众对AI内容的知情权与判断基础。45 2025年9月生效的《人工智能生成合成内容标识办法》配套强制性国家标准GB 45438-2025,系统规定了AI内容标识的技术路径与责任分工。该标准将标识分为显式与隐式两类:显式标识面向终端用户,要求在文本、图片、音频、视频等各类AI生成内容中清晰标注“人工智能/AI”与“生成/合成”核心要素,位置醒目、不易忽略;隐式标识则嵌入文件元数据,包含生成标签、服务提供者信息、唯一编号等六项要素,采用JSON格式并遵循GB 18030-2022编码规范。标准强调,服务提供者承担源头标识责任,传播平台需履行核验与补充标识义务,普通用户无需操作。未按标准执行标识的平台将面临法律追责,影响内容合规传播。54 针对此次处罚,相关平台内部人士透露,公司已成立专项小组对接整改工作,正全面梳理AI功能模块中的内容标识机制,计划在后续版本中严格嵌入符合国标的显式与隐式标识。值得注意的是,“剪映”作为字节跳动旗下广泛应用的视频编辑工具,其AI功能覆盖智能剪辑、自动字幕、虚拟主播等场景,用户量庞大,此次被查凸显监管部门对高影响力平台的合规要求趋严。此外,同期被查的“猫箱”App主打AI角色对话,“即梦AI”网站提供文生图服务,均涉及高频AI内容输出,但此前未建立系统性标识体系。网信部门表示,整改情况将纳入后续复查重点,若未按时完成合规改造,可能面临更严厉处罚。3 此次对“剪映”等平台的查处,是中央网信办2025年4月启动的“清朗·整治AI技术滥用”专项行动的重要组成部分。该行动重点打击AI换脸诈骗、深度伪造谣言、无标识AI内容传播等违规行为,并同步推动广电总局等部门要求AI漫剧必须标注“AI生成或辅助生成”,无备案作品强制下线。截至2026年6月,专项行动已依法处置大批违规账号,清理大量未标识AI生成的虚假信息。网信部门表示,将持续加大人工智能生成合成内容标识的监督管理力度,深入推进依法管网治网,推动人工智能健康有序发展。未来,所有具备舆论属性或社会动员能力的深度合成服务,均需依法履行算法备案、内容审核与标识义务。36
当前文章无评论,是时候发表评论了