什么值得买App下载 App ›
连续签到专享现金活动

知识正被AI泔水污染:双头虾看得懂,长腿蜂鸟看不破

11月20日,澎湃新闻“对齐Lab”发布《从“双头虾”到一万张鸟类贴纸,“AI泔水”正在污染知识》,这一话题迅速冲上热榜。AI泔水(AI Slop)指由人工智能批量生产、质量低劣的数字内容,这个词在2025年入选《韦氏字典》年度词汇。两件事不是同一种问题:双头虾是人人都看得见的错,读者当场就揪了出来;真正难防的是另一类内容——画得逼真、错误只有行家能发现,却正流入科研数据库、课件和下一轮训练语料这些“假设为真”的知识容器。澎湃新闻

双头虾:最“幸运”的一次错误

10月下旬,有读者发现中国农业出版社出版的《南海海洋生物科普丛书》出现不符合常识的“双头虾”图片,分别位于第13册“斑节对虾”封面与内页。丛书序言写明“本套丛书里绝大多数图片由AI绘图工具生成”。10月27日,出版社对丛书启动全网下架、召回,同步开放读者退货通道。10月28日,有知情人士解释,这张图原本是为表现斑节对虾蜕壳的过程,但因AI技术使用不成熟导致呈现失真,引发外界误解。一只虾多长一个头,谁都知道有问题——正因为它错得太离谱,当天就被拦下了。南方都市报知乎看看新闻界面新闻澎湃新闻

知识正被AI泔水污染:双头虾看得懂,长腿蜂鸟看不破

一万张鸟贴纸:内行才看得出的错

另一件事发生在观鸟圈。独立开发者“花叔”开源了自己的全球鸟类贴纸库,全世界现存的11064种鸟,每种一张白边贴纸,由AI对照真实参考照片重绘生成,免费开源、允许商用。面对批评,开发者表示这些贴纸只是插画,不能代替专业图鉴,项目投入超过10亿Token用于生成和审核,AI给贴纸打出的准确分也保留下来供使用者自行判断。真正麻烦的是,这些错误恰好落在外行看不出的区间——爪趾比例不对、羽毛层级错位、折叠翼羽区的覆盖关系画反,一个没观过鸟的人盯着看十分钟也看不出问题,甚至会觉得画得挺精致。蚁工厂澎湃新闻知乎

知识正被AI泔水污染:双头虾看得懂,长腿蜂鸟看不破

“污染”正在进入假设为真的容器

AI可以把鸟画得很像,却未必能把每一种鸟画对:开发者发现,AI会画错虹膜颜色,甚至给腿极短的蜂鸟安上麻雀般的长腿。而这套贴纸库不只是插画:每种鸟都配有结构化数据,包括分类、最多43种语言的鸟名和各大数据库的编号。据观鸟项目观察者梳理,eBird与康奈尔鸟类学实验室的麦考利图书馆明确禁止上传任何AI生成的图像、声音和视频,也禁止用生成式工具去增补或重建照片原有的羽毛、眼睛等细节。专业平台判断的从来不是“你用了哪款软件”,而是这张图能不能当作真实证物。澎湃新闻蚁工厂知乎

iNaturalist的做法更直接:某张图被社区认定主要由AI生成,就打标、替换原图,这条记录从科研数据序列中退出。有科普博主担心,写实风格的图片如果被用于识鸟和自然教育,反而可能传播错误知识、造成数据污染。而生产端的成本已经塌到接近零:项目烧掉超过十亿Token,观鸟社区按大模型API价格区间粗算,单张贴纸的成本不到一块钱,而一部可靠的鸟类图鉴背后是分类学家几十年的野外积累。澎湃新闻知乎

热榜里的“六成”:数字哪里对、哪里混

内容结构已经在变化。数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,识别其创作方式:自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。这项研究自己注明:抽样估算不代表整个互联网的内容分布。澎湃新闻

更接近“泔水”定义的是Kapwing 2026年6月的报告:抽查TikTok上10472条热门标签视频,儿童类内容中57.4%被判定为AI泔水,科学与教育、健康、历史类的占比也都超过三成。热榜话题#算法推荐儿童类短视频六成是AI泔水#正是这份报告数据的取整说法;同一报告的新账号样本显示,一个全新TikTok账号最初收到的500条推荐视频里,59%被归为低质量AI生成内容。澎湃新闻

知识正被AI泔水污染:双头虾看得懂,长腿蜂鸟看不破

“污染”三个字的真实含义

错误不会待在原地,而且这不是AI才有的问题。“巴西土豚”本来只是一名17岁美国少年在维基百科上对长鼻浣熊的恶作剧编造,却被多家媒体转载,甚至进入芝加哥大学出版社出版的书籍,维基百科后来又反过来引用转载这条错误信息的新闻报道,为这个错误提供了“证据”。直到2014年,这个持续多年的错误才被《纽约客》揭开。前AI时代,污染需要出版环节逐次配合;AI之后,生产错误几乎不需要成本,错误可以被媒体引用、进入课件,再变成下一轮内容生产的素材。澎湃新闻

2024年发表于《Nature》的一项研究警告了“模型坍塌”:在特定的递归训练条件下,模型反复学习前代AI生成的数据,原始数据中罕见的信息逐渐丢失,生成结果越来越偏离原始数据。当AI的错误成为AI的输入,细微失真就会一轮轮被复制、放大——这才是“污染知识”四个字的分量。澎湃新闻

谁负责,才是分界线

北京印刷学院出版学院教授叶文芳在“双头虾”事件后提出,AI辅助出版要满足三个前提:标识可识别、内容可核验、责任可追溯。她认为,装饰性、示意性的场景可以使用经过核验的AI插图,但物种形态、实验装置、医学图示等准确性至关重要的领域,不能缺少领域专家的审查就作为定稿使用。澎湃新闻

制度层面也有动作。中国科协2026年发布的《科技工作者科普创作指南》明确鼓励AI辅助文本创作,同时要求专业人员全程发挥判断,严格审核科学原理、引用和事实。《南方都市报》的评论同时指出,现有的《人工智能生成合成内容标识办法》更多规制的是网络信息,不能直接适用于实体书籍。澎湃新闻南方都市报

普通用户能盯住什么

这条分界线其实很简单:看内容要进哪个容器。卡通风贴纸贴进儿童水杯,不需要“真”;但识别图鉴、课件、健康与历史知识和观测记录属于“证物型”内容,底层假设是里面每一条都是真的。在你无法判断AI画得对不对之前,先问两件事:有没有人签字审校过,原始出处能不能追溯。AI可以降低知识的表达成本,却不能降低知识成立的证据标准。澎湃新闻

评论

评论区空态插画

当前文章无评论,是时候发表评论了