记者做了个AI小海,一天被认60个"妈":你家老人排队了吗?
新京报记者照着网上几块钱的教程,生成了一条"AI小海"短视频。发布一天后他下架——期间收获200多个赞、60多个喊他"姨姨妈妈"的中老年粉丝。 这个实验不是为了炫技,而是告诉你这门生意的门槛有多低:低到每个刷短视频的老人,都可能在排队。新京报
10月20日,央视新闻起底了批量涌现的"小海":一个十几岁的少年,穿白衬衫,对着镜头哭着说自己是单亲、没母爱、跟着爸爸吃馒头,一口一个"姨姨妈妈"。评论区里全是"孩子别哭,奶奶给你转钱"。视频下方挂着购物链接——商品往往比其他平台贵,卖得越多抽成越高。报道还提到,部分商品佣金高达55%。截至10月15日,相关话题播放量已达6亿次。运营者的说法更直白:一天赚两三千都算少的。新京报记者联系上的运营者阿牛(化名)还说,这套“小海”的模式和话术是公开的,人人都能用。央视新闻知乎新京报知乎知乎四川观察

最让人心口一紧的不是钱。今年5月,乌鲁木齐铁路乘警拦下一位79岁不识字的老太太——她瞒着家人买了火车票,独自去山西运城,就为了见手机里那个天天喊她"姨妈"的苦命孩子。上车之后她才知道,"小海"根本不存在。央视新闻知乎
为什么一眼假的AI,老人就是看不穿?全国60岁以上老人超3亿、约1.3亿会用智能手机上网。他们缺的不是判断力,是陪伴。收割的不是算法,是情感空巢——同一套文案换张脸、换个声音,能批量生成成百上千个"小海",去年叫"王建国",今年叫"小海",明年还会有新名字。AI视频生成工具摆得明明白白,蓝鲸新闻记者实测一张图就能定制明星带货视频。商家只在版权检测时才拦你,拦不住想批量开号的人。知乎央视新闻新京报知乎


法律上怎么说?律师观点很一致:编苦情人设、引流卖高价货,属于虚假宣传、构成消费欺诈,情节严重的可能涉嫌诈骗罪。而且按AI生成内容标识的相关规定,标个"AI生成"并不能免责。四川观察央视新闻
央视新闻说得更狠:平台不能止步于"打个标签、等举报再封号"。评论区里喊得最多的,也是同一句——管管平台。央视新闻

别急着嘲讽父母,花10分钟做这四件事:
翻一翻。拿过爸妈的手机搜"小海",看看算法推了什么、订单里有啥。凡是反复喊"姨姨妈妈""家人们"的,基本是剧本。人眼的土办法也管用:AI脸常年反光、像糊了层油。
能退就退。已经下过单的,截图视频和订单——消费欺诈可依法主张退款,同时平台举报、打12315。
对暗语。跟家里约定只有自家人知道的暗语:视频里"外孙受伤要医药费"?AI换脸换声的骗局老人几乎必信,先挂断,再回拨本人。
设防线。帮老人设转账限额、开通大额交易提醒;手机装了国家反诈中心App的再检查一遍,中国移动用户发KTFSR到10086可免费领取高频骚扰电话防护。知乎
有意思的是,不少年轻人已经开始"用魔法打败魔法"——自制AI数字人去直播间点破剧本,专门叫醒自家长辈。大洋彼岸甚至有人创办了专骗骗子的反欺诈AI公司,一口气造了35万个AI对话智能体。但这类操作要拿捏好:别让老人从信一个假儿子,变成谁都不信。知乎知乎

"小海"会过气,盯上老人钱包的下一个剧本已经在路上。能打败假儿子的,从来不是更聪明的算法,是那句"妈,我今天回家吃饭"。