《华盛顿邮报》10月19日梳理的一批前沿研究登上热榜，核心结论可以一句话说清：AI不需要黑进大脑，只要让你“看见”一件没发生过的事，就可能把它变成你的记忆。麻省理工学院媒体实验室帕蒂·梅斯（Pattie Maes）团队的最新实验最为直观：先给200名受试者看婚礼、街道、赛跑等日常照片，短暂休息后，一部分人重看原图，另一部分人看到的则是AI改动过的版本——人物表情被换、画面里凭空多出军人或气候变化景象。随后的记忆测试中，看过被改图片的人产生错误记忆的概率大幅上升。更严重的是，他们对这些虚假记忆的自信程度反而更高。凤凰网科技
三组实验：图片、问话、摘要，AI进入记忆的三条路径
第一条路径是图像。各信源转述这组MIT实验时，对照条件的细节略有出入——有的强调AI修改过的图片，有的列出原始图、AI修过的图、AI生成假视频等分组——但量级数字一致：接触AI生成假视频的那组参与者，产生虚假记忆的概率约为对照组的2.05倍，对假记忆的自信程度高出约1.19倍。同一篇综述文章里还有个荒诞的细节：有受试者信誓旦旦“记得”看过威尔·史密斯主演的《黑客帝国》翻拍版，而这部电影压根不存在。雷科技小红书
第二条路径是对话，证据也更完整。2024年9月，MIT媒体实验室团队在arXiv发布实验（编号2408.04681）：200名参与者看完一段真实的超市抢劫监控，再随机接受四种方式的问询，其中“生成式聊天机器人”扮演的警察会一边肯定、一边复述参与者答出的错误细节，比如顺着“现场有枪”这种根本不存在的说法往下聊。最终，即时回忆中被诱导产生错误记忆的参与者达到36.4%，错误记忆数量是对照组的三倍以上。一周后复测，这组人的虚假记忆没有消退，自信度反而显著高于其他组；更反直觉的是，越熟悉AI概念、却越少和聊天机器人打交道的参与者，越容易被带偏。实验数据与代码全部公开在GitHub，供同行复现核对。36氪
第三条路径最安静，也最贴近日常：摘要。乔治城大学与华盛顿大学让参与者观看一段车祸视频后，分别阅读两份事件报告——一份准确，一份由AI生成、掺入了一个交通标志的假细节。结果，读了准确报告的人有83.6%记住正确标志，读了AI错误摘要的人正确率直接腰斩到44.8%。而参与者提前就被明确告知摘要出自AI，结果依然被误导。雷科技
为什么拦不住：AI只是更勤快地重演了大脑的老毛病
认知科学早就写明了机制：记忆不是录像带，每次回忆都是大脑根据碎片现场重拼。1974年起，心理学家洛夫特斯（Elizabeth Loftus）等人的实验就证明，仅仅换一个提问动词，就能改变目击者对车祸车速的估计；一张伪造的童年热气球照片，配合几次引导式访谈，最终让一半受试者“想起”了自己从没经历过的旅程。AI没有发明这种缺陷，只是把它工业化了：画面逼真、逻辑自洽、语气笃定，错误细节可以批量生成又被反复呈现。真正危险的是随之而来的“自信悖论”——记忆被污染后，当事人不会变得更谨慎，而是更确信。研究者据此警告：当AI深度介入司法取证、医疗记录等场景，“人在回路”这道靠人工监督纠错的防线，恰恰可能被最该把关的那个人自己关掉——你已经无法用可能被改写的记忆，去检验写下这份摘要的机器。小红书
实验室之外：它已经在发生，也已经有人设防
今年5月，“EXOai篡改记忆”登上微博热搜：网友用AI生成的舞台照和换脸视频，编造出一位“第13位成员”的完整悲情故事，让许多不明真相的路人信以为真。这不是实验室诱导，而是一次自发的公开演示：几条提示词加一次传播，就足以在人群里植入一段从未存在的集体记忆。而实验室里的风险在制度层面更重——目击者证词本就是庭审中最易出错的证据之一，若问询环节引入会“顺着你的话夸你”的AI，被强化的可能正是错误细节；北京通州法院的法官此前已当庭甄别出律师用AI凭空编造的判例。同样的机制也潜伏在更日常的层面：医院用AI总结病历、个人用AI回顾聊天记录，AI正从一个“记录工具”，逐渐变成“记忆的解释者”。大象新闻人民网小红书
设防也在同步展开。针对传播无AI标识的虚假不实信息，网信部门今年2月通报依法依约处置账号13421个、清理违法违规信息54.3万余条。在认知安全学界，边界同样在被划出：有学者明确提出，在生成式AI辅助精神创伤疗愈中，应区分“帮助理解记忆”与“制造虚假记忆”。人民网光明网
边界与办法：它改写不了神经，但改得动“讲述”
证据覆盖到哪里，结论就只能写到哪里。目前所有实验都发生在认知路径上：AI给出的是你看得见的图、听得见的话，撬动的是本来就易受暗示的重构式记忆；至于“脑机接口直接抹除、写入记忆”，至今只存在于思想实验，动物层面的脑科学实验与人类日常场景之间还隔着无法跨越的距离。实验效应也限定在特定细节、短期干预和可核对的记忆测试内——这些研究证明的是“可能被植入”，而不是“可以被任意改写”。
对普通人，这些结论汇成一条可操作的原则：凡是重要，看原件。合同、病历、事故细节，以原始记录和原始影像为准，AI总结只当检索线索，不作事实依据；对“记得特别清楚”的往事留一分警觉——那份笃定本身可能正是被加工出来的；转发涉及他人或事实的内容前，先核对出处和AI标识。AI篡改记忆的入口不在颅骨之内，而在每一次“重看”和“总结”里。守住原始记录，虚假记忆就只是一张改过的照片；守不住，它才会住进你的“回忆”。
