全国首例AI代写种草笔记被判不正当竞争,10万元罚款划出行业红线
近期,杭州市中级人民法院披露了一起具有里程碑意义的案件——全国首例AI代写"种草笔记"不正当竞争案。法院判决两款AI写作工具的运营方赔偿原告经济损失及合理开支共计10万元,明确了生成式人工智能服务提供者的合理注意义务边界,为"数字泔水"治理划出了清晰的司法红线。
案情显示,被告B公司和C公司共同运营一款AI写作工具,该工具可定向为用户提供特定社交平台风格的种草文案、旅游攻略等内容的一键生成服务,并诱导用户发布至该平台。用户仅需输入产品名称、关键词等信息,系统即可在数秒内生成数百字、采用第一人称视角的"亲测"文案,而这些内容完全由AI虚构,无需任何真实使用体验。被告通过收取会员费盈利,终身会员定价168元。法院审理认定,这种行为破坏了平台以真实体验为核心的内容生态,构成不正当竞争。
在审理过程中,被告曾以"技术中立"为由进行抗辩,主张其提供的仅是技术服务,内容如何生成和使用是用户的行为。但法院明确指出,技术本身中立并不代表技术应用也是中立的,关键在于技术怎么用、用在哪儿、针对谁、是否盈利。当AI工具被设计成专为特定平台"量身定制"虚假内容的生产机器时,其行为已超越技术范畴,构成对市场公平竞争秩序的实质性侵害。
本案中,法院创新性地提出了"四要素判定法":第一,被诉服务是否属于生成式人工智能服务;第二,被诉服务是否以特定场景作为应用层,即是否针对特定平台定向开发;第三,被诉服务是否带有明确的指向性和诱导性,是否诱导用户发布未经真实体验的内容;第四,被诉服务是否属于营利性商业行为。结合本案证据,被告的工具模块名称直接使用特定平台相关命名,并以"帮你生成符合平台调性的分享文案"为宣传语,具有明确的商业利益驱动,综合认定构成不正当竞争。
平台数据显示,近一年来已处置确认为AI虚假种草的笔记超过330万篇,处置AI托管账号超120万个。经过专项治理,来自外部小程序等AI发文量下降约35%。但治理难度在于,当前多数AI生成内容未携带可识别的"数字水印"或标识,导致平台难以精准溯源。小红书社区用户信任中心负责人介绍,平台调研显示有接近三成的用户对AIGC内容接受度不高,用户信任的基石建立在真实生活经验分享之上。
面对AI应用乱象,中央网信办部署开展"清朗·整治AI应用乱象"专项行动,聚焦利用AI"托管"技术运营账号、模拟真人批量注册运营社交账号、批量生成发布低质同质文案等问题。监管与司法同步发力,正在织密治理网络。随着《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等文件落地,国家层面对AI服务提供者的合规义务提出了明确要求。
业内人士分析认为,此案的判决意味着定向为特定社交平台提供"一键种草"服务的AI工具将面临法律风险,行业野蛮生长时代即将结束。AI批量生成的低质内容不仅让普通消费者难辨真伪,还严重挤压了优质原创作者的生存空间,形成了"劣币驱逐良币"效应。此外,如果低质内容充斥互联网被大模型反向吸收,还可能导致模型"塌陷"。
法官助理张宗滨指出,未来需从多个环节形成全链条共治格局:首先要确保训练数据和模型设计合规,不得将模型定向优化为生成特定平台的违规内容;其次要加强风险提示和内容管控,以显著方式提示AI生成内容的局限性,明确禁止用于发布虚假信息;第三要做好内容标识和用户数据保护;第四要建立投诉举报机制,对违法侵权内容及时处置。唯有平台、模型厂商、服务提供者、普通用户共同参与,才能有效维护健康网络生态。
本案为生成式人工智能服务提供者划定了明确的注意义务边界,也为治理"数字泔水"提供了参照准则。法律明确划定了红线:真实使用过的产品通过AI辅助润色优化合法,鼓励技术创新应用;但从未体验过的事物纯AI编造故事、引流牟利则构成违法。技术可以赋能内容创作,但绝不能成为造假牟利的工具。在效率与合规之间,行业必须找到合法合规的平衡点,方能推动AI技术持续健康发展。
当前文章无评论,是时候发表评论了