研究称AI可植入虚假记忆登上热榜:200名实验参与者为何“记住”了没发生过的事

源自50位全网作者

10-19 15:56

"AI可植入虚假事件篡改人类记忆"登上热榜,这轮讨论的源头,是2026年10月15日《华盛顿邮报》发表、随后被IT之家等中文科技媒体在10月18至19日集中编译的一篇特稿,它把近两年多项独立研究汇成了一个话题。 其中最核心的一项,是麻省理工学院媒体实验室帕蒂·梅斯(Pattie Maes)团队发表于ACM CHI 2025的"合成人类记忆"实验:200名参与者在看过AI修改过的照片、甚至由这些照片生成的AI视频后,对画面里从未存在的内容产生了"记忆",虚假回忆量达到对照组2.05倍,信心还更高。IT之家arXiv

实验怎么做:先记住真照片,再看"加工版"

实验设计并不复杂:研究者准备了24张普通照片——婚礼、城市街道、赛跑场景——参与者先记住原图,中间穿插无关的填充任务,再按分组接触不同材料:未修改的原图(对照组)、AI修过的图、AI根据原图生成的视频、AI根据修改图生成的视频,最后用12道记忆测试题加信心量表检验"记得"了什么。 更值得注意的是,教育程度等个体差异,并没有显示出显著的"免疫力"。Gadget ReviewarXiv

照片之外:一句聊天问询,也能改写你记得的事

同一批研究者还把场景换成了"目击者问询":让受试者观看一段犯罪视频后,由生成式AI聊天机器人对其进行提问,结果这些人在测试中报出的虚假记忆数量是对照组的三倍。 在这项模拟问询实验中,36.4%的回答被AI的提问方式本身带偏,而且一周之后复测,这些虚假记忆没有衰减,受试者的信心依然高于对照组。IT之家Gadget Review

误导你的摘要,提醒"这是AI"也挡不住

另一条更日常的路径是AI摘要。乔治城大学团队在近期一项实验中招募331人观看一段汽车撞倒行人的简短动画视频,一两天后,受试者阅读一份AI生成的事故摘要——有的摘要准确,有的由AI"自信地"给出了错误的交通标识信息。 拿到准确摘要的受试者中83.6%能正确回忆标识,误导性摘要组降到44.8%;关键在于,即便事先被告知摘要出自AI,误导效果也没有被抵消。IT之家Gadget Review

把这轮热搜拆开看,有几件事被混在一起讲了

首先是时间线:核心论文的预印本早在2024年9月13日就已提交,2025年4月正式发表于CHI会议,它不是这几天的新实验,本轮讨论的直接引信是10月中旬的媒体综述。 其次,不少转述把"植入虚假政治丑闻、降低投票意愿"也安在这项MIT研究头上——那其实是另一支团队2025年3月发表于《应用认知心理学》的独立研究(N=443):一名本科生用随手可得的工具自制政治深度伪造视频,确实能植入丑闻假记忆、部分场景下投票意愿最多下降约20%,但视频的效果并不稳定强于纯文本——假记忆的关键在内容本身,不在有没有画面。 最后是边界:论文自己也强调,这些是早期实验室研究,证明的是"可被扭曲",而不是"AI能控制任何人记得什么"。arXiv应用认知心理学Gadget Review

为什么记忆这么好骗

虚假记忆研究奠基人之一、UC尔湾的埃米莉·洛夫塔斯正是上述CHI论文的合作者。她的核心结论是:记忆不是录像回放,每次回忆都是一次重建,大脑靠画面的生动程度和当时的情绪来判断"这事发生过";而熟悉AI修图滤镜,也并没有给人统计显著的豁免权。 AI没有改变人脑的结构,只是把伪造"高生动度假证据"的成本降到了接近零——过去要专业修图才能改一张照片,现在只需要一句提示词。被侵蚀的不是某个人的记忆,而是"影像"和"我记得"这两个我们默认可靠的锚点。arXivGadget Review

普通人真正该拿走什么

  • 看公共事件的"图像证据"时,把单张图片当作线索而非结论:有没有第二来源、原始出处能否对上,比画面本身更说明问题;

  • 涉及纠纷、案件需要陈述记忆时,先陈述、后看料——接触相关照片视频或被任何人(包括AI工具)反复提问,都可能改写你"记得"的细节;

  • 对自己最笃定的记忆反而多留一分验证空间:这系列研究里最反直觉的发现就是,假记忆往往携带更高的自信,而"我知道这是AI"这层提醒,实测并不管用。

这条热搜真正的警报不是"AI能读你的脑子",而是:对过去的确定感正在变便宜,交叉核验正在从媒体素养变成生活常识。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章