孩子刷到“乞讨视频”哭着要捐款,我才知道有一种造假叫AI摆拍
暑假里有一天,女儿红着眼睛从房间跑出来,举着手机跟我说:“妈,这个小孩太可怜了,我们帮帮他吧。”
我接过来一看,是一条短视频:烈日下,一个孩子跪在医院门口,赤脚沾满泥水,面前纸板上写着“急性白血病”“求您扫码”。视频配着悲伤的音乐,评论区全是“已捐”“转发扩散”。
我仔细看了两遍,发现角落里有一行几乎看不清的透明小字——“AI生成,并无未成年人出镜”。我把那行字指给女儿看,她愣住了:“所以这是假的?”
那个视频是用AI生成的,从人物到场景都不是真的。发布者用虚假的苦难骗取点击和捐款,而女儿差点用压岁钱去帮一个不存在的人。
后来我查了一下,这不是个例。用AI生成未成年人悲惨遭遇的虚假视频,正在大量出现在短视频平台上。有的账号用AI生成“未成年人生病跪在医院门口乞讨”的画面诱骗互动吸粉,有的则让AI生成的“儿童”热舞带货,还在角落用透明小字标注“AI生成”来规避责任。更隐蔽的是,有些账号打着“童模拍摄”“泳衣测评”的旗号,让真实的未成年人以成人化装扮出镜,软色情元素被包装成“日常分享”混入信息流。还有一类是微短剧,让儿童出演成人化剧情——“7岁被迫出嫁,15岁生子”,11岁女童饰演女主角,充斥着不雅画面和成人化隐喻。
这些内容有三个共同特点:第一,利用孩子的同情心或好奇心获取流量;第二,用新技术伪装,让家长防不胜防;第三,正在悄悄改变孩子对真实世界的认知。
那天晚上我跟女儿聊了很久。我告诉她,网上的内容不全是真实的,有些看起来很可怜的画面可能是假的,有些看起来很好玩的东西可能在骗你。她听得很认真,最后说了一句:“那我以后看到这种视频,先来问你。”
暑假还有一半。她每天还是会上网、刷视频,但至少她开始学会对屏幕里的画面多一个问号了。让孩子在虚拟的世界里,保持对真实的判断力,可能是这个暑假最重要的一课。
