科普出版该不该“限制AI配图”?这次给出的结论已经足够明确:不该一刀切禁用工具,该管住的是“用了AI却没人审图”。 这套由中国农业出版社出版的《南海海洋生物科普丛书》,在序言里已经写明绝大多数图片由AI绘图工具生成,使用AI这一点并未隐瞒。 10月27日,中国农业出版社回应:全网下架并召回涉事图书。 次日出版社进一步确认,已与平台联系,购书者可退款。知乎观察者网澎湃新闻
一只不存在的虾,怎么就印上了封面
这套丛书共22册,由中国农业出版社出版。 错误出现在第13册《斑节对虾》:封面与内页里,一只虾的两个脑袋挤在同一副身体上。 网友翻查其他分册,还看到“扛着红缨枪的金枪鱼”“鱼头人身”等画面。界面新闻知乎光明网
这套丛书的来头也不小:该书曾入选全国优秀科普图书作品。 丛书前言页还列明,本书出版得到了多项科研基金和专项资助,包括国家自然科学基金项目(32460927)。 一边是正规科研背书,一边是连孩子都可能一眼看穿的常识错误,反差恰恰说明:错的不只是AI。蓝睛知乎
“本意是画蜕壳”,但这个解释尚未被出版社公开确认
10月28日,有知情人士对媒体解释,该图片本意是表现斑节对虾蜕壳的过程,但因AI技术使用不成熟,导致图片引发外界误解。 对于上述说法,中国农业出版社目前尚未作出公开回应,其官方微信小程序和官方旗舰店中已查询不到相关书籍。 也就是说,截至10月29日,下架召回是确定的处置,而“蜕壳”仍只是单方解释——无论画的是双头还是蜕壳,把一张违背形态常识的图放上封面,都是审校环节自己没拦住。界面新闻界面新闻
规则已经就位,缺的是“审图”这一环
从制度看,2024年修订的《中华人民共和国科学技术普及法》明确规定,科普产品和服务、发布的科普信息应当具有科学性,不得有虚假错误内容。 2025年9月起施行的《人工智能生成合成内容标识办法》,则要求AI生成内容主动声明并加标识。光明网知乎
但标明内容由AI生成,并不意味着内容已经经过科学验证。 学术出版已有现成参照:Elsevier明确规定,AI可以作为辅助工具,但不能替代编辑的独立判断。光明网知乎
施普林格·自然集团则要求,AI辅助生成的科学图像应当具有可核验的原始资料,并经过人工审查。 同类失误并非孤例:摄影教材里人长了六根指头,正式出版的实体小说里印着“需要我再微调部分语句,让整体文风更贴合悬疑灵异的氛围吗?”这句AI提示词。 AI生图的典型错误其实有规律可循:多画一根手指、少画一条腿,碰上结构复杂的动物,身体错位、器官重复也很常见。 照着这份“错误清单”逐图核对,本不难做到。光明网经视直播知乎
读者现在该盯住什么
已购买该丛书的读者,可通过原购买渠道或出版社读者服务热线申请退款。至于已入选的“全国优秀科普图书”荣誉如何处理,目前尚无公开信息——如此明显的错误能够通过推荐和评审环节,相关评价机制显然值得检视。 对正在挑科普书的家长而言,“图片是否AI生成”本身不构成淘汰项,真正该盯住的是:配图有没有可核验的真实来源,有没有专业人员的审图记录,出了错责任落在谁头上。光明网