原创内容被判“AI生成未标识”！用户直接把平台告上法庭

快科技11月11日消息，随着AI生成内容在网络平台上越来越普及，针对AI内容的识别和标注也成为平台内容管理的重要环节。

但如果用户自己创作的内容被平台误判为AI生成，甚至因此遭遇限流、禁言等处罚，该怎么办？

近日，北京互联网法院披露的一起案件给出了答案：平台不能仅凭算法判定就对用户进行处罚，还应对认定依据作出合理解释。

据中央广播电视总台中国之声报道，北京互联网法院日前审理了一起因AI内容误判引发的网络服务合同纠纷。

案件中，被告某科技公司运营的平台要求创作者对AI生成内容主动添加标识。

平台用户小唐发布了一段文字内容，本意是分享自己的原创成果，却被平台认定为“包含AI生成内容但未标识”，随后遭到内容隐藏、禁言一天等处理。

小唐认为，涉案文字完全由自己创作，并非AI生成。在向平台申诉未能成功后，他选择向法院提起诉讼。

面对诉讼，平台方面辩称，涉案内容经过机器识别和人工复核，被认定为AI生成内容。同时，平台以相关识别算法涉及技术秘密和算法逻辑为由，主张没有义务向用户解释具体认定机制。

对此，北京互联网法院立案庭法官指出，涉案内容属于即时性创作文本，很难要求用户提供完整的创作底稿或原始文件，证明整个创作过程。但平台既然认定内容由AI生成，就应当对自己掌握的算法工具、运算过程和审查结果进行合理举证或解释说明。

法院最终认定，平台虽然有权依据用户协议对内容是否属于AI生成合成内容进行审查和处理，但相关处理必须具有合理依据。

由于算法运算过程和审查结果均由平台掌控，平台应承担相应的举证或解释责任，不能仅凭一个算法识别结果就要求用户承担违规后果。

由于被告未能作出适度解释说明，法院认定其处理行为缺乏事实依据，构成违约。最终判决平台解除对涉案内容的隐藏，并删除后台相应违规处理记录。

值得注意的是，此案也对AI内容识别机制提出了更明确的要求。法官表示，平台使用算法识别AI生成内容并采取处罚措施时，应当以用户能够理解的方式说明判定依据、运行机制以及误判后的救济渠道，不能简单以涉及商业秘密为由拒绝解释。

依据《人工智能生成合成内容标识办法》的规定，AI生成的内容需要标注，如果不标注，平台可以依法采取限流、下架、限制账号等处置措施，相关主体还可能承担相应法律责任。

法院还建议，平台应建立阶梯式违规处置机制，坚持过罚相当原则，根据违规程度采取警示、限制功能、暂停服务等不同措施。

编辑：哈尔

【本文结束】如需转载请务必注明出处:快科技