什么值得买App下载 App ›
连续签到专享现金活动

AI文本溯源新突破:OpenAI文本水印技术如何改变内容识别格局

10月5日,OpenAI宣布为配合《欧盟人工智能法案》的内容透明要求,未来几周将在欧盟地区向符合条件的ChatGPT和Codex用户引入textGrain(文本粒水印)技术。该技术通过在模型选词过程中嵌入不可见的统计信号,让检测器能够判断一段文本是否带有OpenAI水印。此前,OpenAI已在图像和音频领域应用SynthID水印,这次是将溯源措施扩展至文本模态的关键一步。1
textGrain水印的核心机制是在模型生成文本时,通过改变随机选词的过程来嵌入信号。这种方式与图像、音视频的SynthID水印原理类似——信号直接嵌入内容本身,即使元数据被移除或内容经过部分编辑,水印仍可能被检测到。值得注意的是,OpenAI不会将文本水印设为全球默认,仅在欧盟用户中推行。从今天起,全球API客户可以在项目或组织设置中选择为部分模型启用水印功能,由客户自行决定水印如何适配其透明度义务。2
OpenAI同时开放了文本水印检测器的申请通道。研究人员和专家组织可以从今天起提交申请,审核将按个案进行。检测器会报告是否检测到OpenAI水印,但不会暴露用户身份、提示内容或对话细节。OpenAI还在与云服务商合作,计划在未来几周内将通过第三方平台访问的OpenAI模型输出也纳入水印覆盖范围。3
对欧盟地区的ChatGPT和Codex用户而言,这意味着他们收到的AI生成文本将附带可被机器识别的溯源标识。根据《欧盟人工智能法案》第50条规定,生成式AI内容必须附加机器可读标识,违规最高面临全球营业额3%或1500万欧元的罚款。开发者如需在应用中使用OpenAI模型并面向欧盟用户,也应关注水印功能的适配情况。4

评论

评论区空态插画

当前文章无评论,是时候发表评论了