陪你聊三个月的可能不是人:杀猪盘最贵的工序,AI免费干了
这两天知乎上挂了个挺瘆人的问题:杀猪盘里最耗时耗力的那道工序,培育感情,让AI接管了。
我把Anthropic和OpenAI今年各自发的威胁报告翻了一遍,又对了链上的账。越看越觉得,这行当换法子了,从散养改成了工厂化养殖。
今年9月,Anthropic发了一份一百五十多页的威胁报告,里头有个编号GTG-15001的案子。一个工作室用大模型批量搭了二十多款交友App,对外宣称真人社交,后台里你刷到的“匹配对象”,七成半是AI捏出来的虚拟人设。两个礼拜造出四千七百多个“虚拟恋人”,至少两万五千个真人陷了进去。聊天烧金币,金币得充值,你聊得越久,对面赚得越多。
数字之外,最瘆人的是里头的分工。这个工作室没有全用AI,特意留了一批真人兼职,专门接视频通话、互关社交账号。意思就是:AI负责谈感情,真人负责证明自己是真人。所以别觉得视频里露过一面,陪你熬夜聊天的就是同一个人。情书是程序写的,视频里的脸是上班的职工,两边都是打工的。

OpenAI夏天也披露过一个柬埔寨的诈骗园区,ChatGPT在里头全程干活:写话术、做翻译、研究受害者的社交资料,连园区内部的招聘和纪律记录都拿它管。套路拆成三步,接触你、钩住你、收你的网。
为什么说改工厂化养殖了?以前的杀猪盘,一个“键盘手”得陪着一个人耗上几个星期到几个月,同时伺候不了几个,所以园区才要关那么多人。如今呢,按今年6月一项联合调查的说法,缅甸园区里一个被贩运去的键盘手,任务是四天之内让目标“坠入爱河”,一个班次同时聊一百多个人,一个月接触了十七个国家的五万人上下。甜言蜜语这东西,AI管够还不要钱,最贵的一道工序,成本压到了接近零。

饲料便宜了,肉价降了吗?恰恰相反。盯着区块链转账的数据公司Chainalysis对比过:跟AI沾边的诈骗操作,平均每起能榨出320万美元,不沾边的只有71.9万,差着四点五倍;日均转账笔数,35笔对不到4笔。猪圈盖得更大,每头猪反倒被榨得更干。

这里头有个普通人得赶紧更新的防骗常识。从前判断网上那个人是不是真心,看的是他肯不肯为你花时间:聊上几个礼拜,记得你的习惯,早晚嘘寒问暖。时间贵,所以时间能当真心的凭据。如今这条标准作废了,时间对骗子来说是顶便宜的东西,能陪你熬三个月的体贴,程序免费批量生产。

往后判断真心,就剩一条硬标准:钱进没进场。网上聊得来的未必都是骗子,但标准得统一,也得简单。一个没见过面的人,只要提起投资、虚拟币、内部渠道,或者要你垫付什么保证金、验证金,前头聊得再热乎,这一步就是收网。骗子自己给这步起了名,叫“the kill”。
听老舅一句劝。家里有长辈在网上处“对象”,别急着争论对方是真人还是AI,这个连专家都难分辨。就教一条最笨的规矩:没见过面的人,一分钱不转,别的平台不去,别的软件不下。骗子最怕你找第三人商量,所以他们总爱说“咱俩的事先别告诉别人”,一听这话,就该警觉了。真遇上拿不准的,打96110全国反诈专线,或者去就近的派出所问一嘴,这通电话比哪道工序都便宜。
散养的时代过去了,猪圈一排排盖起来,饲料不要钱。人家的饲料从哪来,咱管不了,能管住的就一条:饲料再香,也别跟着喂食的人回家。
