视频通话1分钟,一半人没认出是AI:见面确认身份,今后得留一手

视频通话1分钟,一半人没认出是AI:见面确认身份,今后得留一手

2026-10-07 05:42:38 0点赞 1收藏 0评论

视频通话一分钟,54个人里有26个咬定,屏幕对面是个活人。他们都错了。对面那个人的脸、声音、连回话的时机,都是一个AI模型现场生成的。

10月1号,AI视频公司Tavus发布了一个叫Griffin的新模型,宣称它是首个通过实时「视频图灵测试」的模型。上一代同类系统,同样的实验流程,只能骗过41个人里的1个。从2.4%到48%,中间只隔了一代。发布两天,那段演示视频的围观就超过了1700万人次。要是你平时拿「视频一下吧」当确认对方身份的手段,或者家里有老人常接「熟人」的视频电话,这条消息就不是科技圈的热闹,是一条风险提示。

先别管实验,看这个模型凭什么骗过这么多人。关键不在画面多逼真,在互动的节奏。Griffin是个所谓的全双工系统,它能一边说话,一边听你、看你,你的表情、视线、停顿、手势,都进它的判断。它允许被打断,也会主动插话。一段演示里,一个用户在焊电路板,屏幕里的AI看着他的动作,该提示下一步了才提示;用户停下手半天不说话,它也不搭腔,它知道你没干完,只是在想。用过语音助手的人都懂这个细节戳在哪。你停下来组织语言,它抢着接话。视频通话里最容易暴露AI的,往往不是脸,是这种抢麦的急切。

视频通话1分钟,一半人没认出是AI:见面确认身份,今后得留一手

不过,先别急着慌。这个48%,是Tavus自己测的,连「视频图灵测试」的定义都是它自己下的,学术上没有共识。实验只有54个人,只聊了一分钟,参与者还事先被告知对面是另一位真人,话题定好了聊「今年最期待的事」。就这条件,仍然有超过一半的人看穿了,而且看穿的人多半在通话开始20秒内就察觉了。五项体验评分里,最低的是「对话流畅程度」,7分制里只有4.9分。也就是说,AI能糊弄住一分钟的闲聊,但话聊得越久、越往具体的事上走,它越容易露怯。英伟达的公开评测榜上,Griffin的生成得分3.83,人类参考分3.92,只差0.09分,可这也只是特定基准下的分数。眼下Griffin只对少数受信测试者开放,Tavus自己说,要把「身份披露」功能做上、安全评估做完,才会更大范围开放。这个阀门,暂时是拧着的。

视频通话1分钟,一半人没认出是AI:见面确认身份,今后得留一手

真正要上心的,不是这个实验本身,是它暗示的速度。还有一件更现实的事。被视频里的脸骗到,用不着等Griffin发布,骗子的工具旧一代,但早就在实用了。

2024年初,香港,一家跨国公司分部的职员被拉进一场「总部首席财务官发起的多人视频会议」。屏幕里有人说话、有人点头、有人翻文件,一切正常,只有他一个是真人,其余全是深度合成拼出来的。他按指令分15次转账,把2亿港元打进了5个账户,一个星期后才觉出不对。福州的郭先生接到「好友」的视频通话,脸和声音都对得上,因为那确实是用好友本人的微信发起的,账号多半已经被盗了。他转出去430万元,93.16万没能追回来。按反诈机构的披露,黑灰产里一条「换脸加换声」的视频,报价463元左右,大概就是一顿像样的饭钱。按公安部的数据,2025年一季度,AI换脸、拟声诈骗环比涨了45%,受骗的人里老年人占38%。

Griffin说明的是,往后会更难防;这些案子说明的是,眼下已经够危险。

所以判断就一句话。视频通话没有作废,是降级了。它曾经是「眼见为实」的铁证,现在只能算一个需要交叉验证的参考。跟家人同事照常视频,犯不上把每个人都当骗子防。真正要警惕的,是「视频里露了脸」紧跟着「要转钱、要改账户、要办急事」的那种时刻。

遇到那种时刻,怎么办。几招记下来。

让对方动起来:请他摁一下鼻子、把脸侧过去、拿手在脸前挥一挥。现在的人脸合成,遇到物体遮挡脸部的边界容易出破绽,这也是反诈专家公开推荐过的识别办法。

突然问一件只有你们俩知道的小事:骗子能应付寒暄,应付不了你们的共同记忆。香港那个案子还有个细节,骗子几乎不让受害人说话,自我介绍完就以「不方便多说」挂断视频,改用文字指挥。不让你多问、只顾催你快办的视频通话,一律当可疑处理。

涉及钱,必须换渠道:挂了电话,自己找号码打回去,或者直接找到人,再确认一遍。这一步别省。屏幕对面的脸看得再清楚,也清楚不过这一通电话。

工具上也有新的。今年9月,公安部刑侦局指导、上海市公安局研发的「国家反诈AI」App刚上线,三大功能:智能问答、反诈资讯、反诈辞典。把遇到的可疑场景直接丢给它问,它会做风险分析、识别诈骗套路、推送相关案例,辞典还能语音朗读,家里老人听着也行。民警提醒的用法是,别只问「这个号码是不是骗子」,要把整个场景讲清楚,场景越完整,它判得越准。App自己也标了,回答由AI生成、仅供参考,涉及转账,还是得回那句老话,换渠道核实。

视频通话1分钟,一半人没认出是AI:见面确认身份,今后得留一手

回到开头那个实验,还有一组数字容易被忽略。没认出AI的那26个人,对自己判断的平均信心是79%;认出来的人,是81%。只差两个点。这意味着,对着视频里的一张脸,「我很确定」这种感觉,已经不是证据了。

眼睛还能用,但别只靠眼睛。

确定得了的,是电话之外的那一步,换条路,找到真人。

内容由AI生成
展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
1
扫一下,分享更方便,购买更轻松