AI植入虚假记忆研究爆火:人类大脑为何会轻易“信以为真”?

源自26位全网作者

16:00

10月19日,「研究称 AI 可篡改人类记忆甚至植入虚假事件」的问题登上知乎热榜,IT之家、Vista看天下等账号同日转发华盛顿邮报对麻省理工学院等机构系列记忆研究的报道。这波爆火的结论可以浓缩成一句话:AI 生成的图像、视频和文字能把「没发生过的事」变成大脑里「真实发生过的」记忆,而且实验里受试者对虚假记忆的自信程度反而更高,不是更心虚。知乎IT之家

实验室里到底测出了什么

麻省理工学院媒体实验室教授帕蒂·梅斯团队用 24 张普通照片——婚礼、城市街道、赛跑——展示给 200 名受试者,短暂休息后,一部分人重看原图,另一部分人看到的是 AI 改动版:表情被换、画面里多出军人形象。被篡改过的不只是「看过」这一层:有参与者甚至信誓旦旦「记得」威尔·史密斯主演的《黑客帝国》翻拍版,而这部电影根本不存在。IT之家小红书

媒体对实验数据的编译给出了量级:看过 AI 生成假视频的参与者,产生虚假记忆的概率约为普通对照组的 2.05 倍,对假记忆的自信程度高出 1.19 倍;在模拟罪案目击询问中,被 AI 聊天机器人提问的人有 36.4% 的答复被直接带偏到不存在的细节上,一周后再问依然坚信。雷科技

更值得注意的是「知情」这道防线也守不住。乔治城大学与华盛顿大学的实验让参与者看完一段车祸视频,再读两份报告——一份准确,一份是 AI 生成、掺进了一个交通标志的假细节,研究人员提前声明后者出自 AI,结果看过错误摘要的人仍把假细节当成了亲历。对照下来,看过准确报告的人有 83.6% 记住了正确的标志,AI 错误摘要组只剩 44.8%。雷科技

为什么大脑会接受一个谎言

理解这些结果的关键,是一个认知心理学的老常识:记忆不是录像带,而是重建。研究解释里打了一个比方——人类的记忆像拼图,每次回忆,都是大脑根据手里的碎片重新拼一遍。既然大脑拼的是「当下手里有什么」,那么一份细节丰富、逻辑通顺、语气笃定的 AI 内容,天然就是好用的拼图块——它不是骗过了审查,而是被直接当作原料用了进去。雷科技

这套弱点比 AI 古老得多。心理学家伊丽莎白·洛夫特斯花了几十年时间证明,人可以被操纵去「记住」从未发生的事,尤其是在检方和警察询问证人的时候。1995 年的「商场走失」实验里,研究者把一段伪造的童年走失经历混进三段真实的家人回忆,经过阅读和两次面谈,有受试者真的「想起来了」,还补出了没人告诉过他的细节。AI 没有发明新的脑内漏洞,它做的是把「暗示材料」的质量、产量和个性化程度拉到人工时代够不着的水平——被反复投喂的内容,更难与真实经验区分。相关传播观察还提到,在政治丑闻一类场景中,这类被植入的印象即使信息更正后,仍会持续影响判断。参考消息小红书微博

这个结论能走多远,不能走多远

先把边界说清楚:这些实验植入的多是「在实验室里看过一两次材料」的事件印象,不等于改写人积累了几十年的亲身经历;2.05 倍、36.4% 都是相对对照组的量级,也不是「人人的记忆都会被改掉」。但危险恰恰落在真实场景的交界处——法庭长期依赖证人回忆,数十年研究早已证明目击记忆极易被扭曲,而现在提问、整理、写摘要的环节可能换成 AI,因为 AI 系统不只是存储过去,它还会解读、总结、重构过往信息,并且有时会出错。IT之家

「出了问题有人把关」的默认方案同样不牢。业界寄望「人在环路」里的高级专家审核 AI 输出,但研究结论指出,人类用户不仅难以稳定识别 AI 幻觉,自身判断还极易受错误信息诱导——把关人自己就是会被植入记忆的普通人。微博

普通人现在能做什么

结论落到日常只有三条:关键事实回到原件——合同条款、病历记录、事故细节,看原始记录、问在场的人,别把 AI 摘要当成唯一依据;给重要经历留外部凭证——聊天截图、票据、照片,这些是记忆漂移后唯一能核对的「原图」;对「我特别确定」保持一寸怀疑——实验反复证明,自信程度和真实程度是两回事,越笃定的细节,越值得先查一眼再下判断。辟谣救不回已经拼进记忆的材料,所以第一次就递给人真相,比事后更正值钱得多。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章