什么值得买App下载 App ›
连续签到专享现金活动

孩子看的科普短视频里藏着AI泔水,家长把关的关键不是肉眼

家长真正要防的不是"这条视频像不像AI做的",而是"这条知识有没有人为准确性负责"——指望肉眼过滤并不现实,靠得住的把关是三道防线:看标识、换内容池、动手查证。触发这个判断的,正是最近反复被提起的"双头虾":中国农业出版社《南海海洋生物科普丛书》被曝出现违背常识的配图,出版社回应称正通知下架并召回。这只"双头虾"出现在介绍斑节对虾的分册封面和内页。丛书序言里明说,绝大多数配图都是AI绘图工具生成的。澎湃新闻光明网沂南首发

澎湃新闻今天把"双头虾"与"一万张鸟类贴纸"合并成一篇调查,用的词正是AI泔水(AI Slop)——2025年入选《韦氏字典》年度词汇,专指由人工智能批量生产、质量低劣的数字内容。澎湃新闻

孩子看的科普短视频里藏着AI泔水,家长把关的关键不是肉眼

污染规模已经被抽查量化。2026年6月,视频编辑平台Kapwing抽查TikTok上10472条热门标签视频,儿童类内容57.4%被判定为AI泔水,科学与教育、健康、历史类也超过三成。国内没有对应口径的测量,但孩子不会在这条曲线之外:2026年9月国家网络安全宣传周发布的《青少年发展蓝皮书》显示,我国未成年网民规模已达1.98亿,互联网普及率98.3%。澎湃新闻未来网中国新闻网

同一批受访未成年网民里,64.2%坦言对短视频缺少自控力。供给端的变化同样快:美国数据公司Graphite抽样约5.54万篇公开英文文章发现,自ChatGPT发布以来AI生成文章占比快速攀升,2025年起与人类创作基本持平。产能一夜翻倍,验证真伪的能力没跟上。未来网澎湃新闻

孩子看的科普短视频里藏着AI泔水,家长把关的关键不是肉眼

看得见的错误好防,看不见的才危险

"双头虾"多长了一个头,谁都能看出不对;棘手的是另一种错。几乎同期,一位独立开发者用AI制作了覆盖全球11064种鸟类的写实贴纸,免费开源允许商用,引发观鸟社群批评。AI可能把蜂鸟画出麻雀般的长腿、画错虹膜颜色,而这些特征恰恰是识鸟的依据、科普的底线。澎湃新闻

开发者并非没做功课:他披露,生成后又让另一套AI评审,前后投入超过10亿Token,细节照样漏。这说明问题不在态度,在能力——AI可以把鸟画得很像,却未必能把每一种鸟画对。

光明网评论员把后果说得更直接:这是主要面向青少年的科普丛书,儿童认知与分辨能力有限,图画错了,教给孩子的就是错的。光明网

孩子看的科普短视频里藏着AI泔水,家长把关的关键不是肉眼

更麻烦的是,错误会"自我证明"。2008年,一名17岁美国少年在维基百科编造出假物种"巴西土豚"。这个恶作剧被多家媒体转载,甚至进入芝加哥大学出版社的书籍,直到2014年才被《纽约客》揭开。一个凭空编造的名字,在传播中拿到了"权威出处"。澎湃新闻

反过来,AI还会消化这些错误:2024年《Nature》的一项研究指出,模型反复学习前代AI生成的数据可能发生"模型坍塌",原始数据中罕见的信息逐渐丢失,结果越来越偏离原始数据。细微失真就这样在复制里被放大。澎湃新闻

蓝皮书对风险端的判断干脆:多数未成年人尚不具备识别AI生成内容、甄别算法偏见的能力,83%的受访教师对学生滥用AI的风险表达了担忧。所以"教孩子认出泔水"这条路在能力层面就不成立——把关不能指望人眼,得指望结构。中国新闻网

家长真正抓得住的三道防线

第一道,看标识。2025年9月1日起施行的《人工智能生成合成内容标识办法》提出强制添加显式和隐式标识等规范要求,所有AI生成的文字、图片、视频等内容,都要"亮明身份"。陪孩子看科普,先找"AI生成"角标:标了的,至少给了知情权;该标不标的,本身就是风险信号。但也别把标识当保险箱——2026年4月,网信部门通报"剪映""猫箱"App及"即梦AI"网站存在未有效落实人工智能生成合成内容标识规定要求等问题。执行还在补课。央视新闻北京头条

第二道,换内容池。未成年人模式解决的是"在推荐流里捞不过来":2025年4月底正式发布的移动互联网未成年人模式,家长可在手机端一键启动,所有应用程序同步切换,形成相对独立、安全可控的上网环境。央视新闻

模式本身并不只限时长,从功能服务看,它提供每日上网总时长控制、使用时段设置、休息提醒、应用管理、使用情况统计等功能。央视新闻

覆盖率却不算高:国家计算机病毒应急处理中心基于近一年全国更新的21万款安卓应用监测发现,已有近3万款应用搭载"未成年人模式"功能。新华网

拆开看更扎心:社交通讯类占比58.01%居首,资讯阅读类只有44.02%,育儿亲子类38.83%。监管部门的评估是"广度初显、深度不足"。新华网

好消息是池子在建:重点平台已依托儿童内容创作者、版权资源和权威机构筛选内容,建立年龄分层、内容分类、推荐分众的梯度化内容体系。家庭要做的,是开完模式再换来源——优先看博物馆、科协、主流媒体运营的科普号,把流水线生成的"恐龙动画""神童讲科学"矩阵号默认列为嫌疑对象。能进这道池的标准,中国科协2026年《科技工作者科普创作指南》已经写明:专业人员全程发挥判断,严格审核科学原理、引用和事实。这才是"有人负责的科普"的标记。央视新闻澎湃新闻

第三道,查证。发现不对劲,别用第二条视频验证第一条:蜂鸟到底有没有那么长的腿、那种恐龙活在哪个年代,翻图鉴、查博物馆页面,一分钟就够。北京印刷学院出版学院教授叶文芳在"双头虾"事件后提出,AI辅助出版要满足三个前提:标识可识别、内容可核验、责任可追溯。这三条放在家庭里同样成立。澎湃新闻

治理端也在收紧。2026年春节,中央网信办开展"清朗"春节专项行动,将"生成传播‘数字泔水’等垃圾信息"列入整治重点。随后开展为期4个月的"清朗·整治AI应用乱象"专项行动,第二阶段专治AI信息内容乱象。截至9月初的通报,已清理违法违规信息561万余条、查处账号4.9万余个、处置违规网站和应用2400余个。央视新闻人民日报中国长安网

但清存量不等于自动净化孩子的屏幕。家长今天就能做的,还是那三步:先看标识,再锁池子,遇疑查证。AI泔水赌的是孩子对"看起来很可信"的默认信任,家长要替孩子保留的,是追问一句——“这个知识,谁负责?”

评论

评论区空态插画

当前文章无评论,是时候发表评论了