欧盟动真格!ChatGPT文本输出将强制携带隐形水印,违规最高罚千万欧元
10月5日,OpenAI宣布将在欧盟地区为ChatGPT和Codex的文本输出添加机器可识别的隐形水印。这项名为textGrain(文本粒水印)的技术,会在模型选词过程中嵌入不可见的统计信号,检测器通过识别该信号即可判断文本是否由OpenAI生成。该功能预计在未来几周内覆盖欧盟符合条件的用户,API客户从即日起可选择全球启用该功能。
水印功能落地欧盟,直接源于《欧盟人工智能法案》第50条透明度义务。该条款于今年8月2日正式生效,要求GPAI模型生成的合成文本必须附加机器可读标识,且不得在全球默认启用。违规最高罚款为全球营业额的3%或1500万欧元,取两者较高值。OpenAI明确表示不会将文本水印设为全球默认,仅在欧盟地区强制实施。
OpenAI同时面向研究社区开放水印检测器权限。研究人员和专家组织可从即日起提交申请,获批后可根据行为准则访问检测工具。该工具会报告是否检测到OpenAI水印,但明确承诺不会透露用户身份或提示内容,以此平衡透明度与隐私保护。
文本水印之外,OpenAI已在图像和音频领域部署了SynthID水印技术。与嵌入内容本身的SynthID不同,textGrain通过改变模型选词的随机性实现标记。这意味着水印可能随编辑或平台转换被移除,OpenAI也承认没有哪一种溯源方法完美无缺,采用分层方法结合标准、水印和验证工具是当前的实际选择。
对普通用户而言,欧盟地区的ChatGPT和Codex输出将自动携带水印标记,但用户端不会有任何感知。该水印主要服务于内容溯源需求——帮助外界判断一篇文章或一段文字是否由OpenAI模型生成,而非限制用户使用。对需要合规证明的开发者,全球API客户已可从今天起在项目设置中选择启用文本水印输出。
当前文章无评论,是时候发表评论了