你的电子相册还安全吗？真正值得警惕的不是照片被盗、丢失，而是更隐蔽的一种变化：被AI修改过的照片，会让你记住从未发生的场景，并且让你对这段错误记忆更加自信。据《华盛顿邮报》10月19日报道，麻省理工学院媒体实验室教授帕蒂·梅斯（Pattie Maes）和同事把24张普通照片——婚礼、城市街道、赛跑场景——展示给200名受试者；短暂休息后，一组人再次看到原图，另一组人看到的是经过AI修改的版本：人物面部表情被改动、画面中新增军人形象，或是添加气候变化相关景象。随后的记忆测试里，看过AI篡改图片的受试者产生错误记忆的概率大幅上升，对这些虚假记忆的自信程度反而更高。梅斯对这项结果的评价是："基本上，我认为这一切非常危险。"研究经IT之家转引后进入国内热搜，知乎热榜上"研究称AI可篡改人类记忆甚至植入虚假事件"的讨论问题随之出现。IT之家Vista看天下知乎
为什么照片格外有杀伤力：记忆是重建的，照片是"底片"
记忆不是录像带。正如原研究报道所概括的：我们只能记住所经历事物的一小部分，细节会消失，回忆会变得模糊，每次回想时记忆本身还会发生改变。人对图像的暗示尤其缺乏抵抗力——人类记忆本就易变、不可靠，且极易受暗示影响，早在19世纪，心理学实验就对此有广泛记录。做出这组照片实验的梅斯团队，走的正是"AI与虚假记忆"这条研究线：2024年，团队与虚假记忆问题专家E. Loftus（伊丽莎白·洛夫特斯）等合作发布预印本，标题即《Synthetic Human Memories》，研究AI编辑的图像与视频如何植入虚假记忆、扭曲回忆。而电子相册恰恰是我们存在大脑外的"底片"：一张照片进了相册，我们默认它就是"发生过"的凭证——当底片本身可能被改写，记忆的支点从第一步就动摇了。CNMO科技微博
不止一张照片：多组实验都指向同一个方向
照片实验不是孤例。一项研究中，研究者让受试者观看一段犯罪视频，之后由生成式AI聊天机器人对其问询，受试者产生虚假记忆的数量是对照组的三倍。据雷科技编译自Gadget Review的报道，看过AI生成假视频的参与者，脑子里产生虚假记忆的概率约为普通对照组的2.05倍，对这些没发生过的事，自信程度反而高出1.19倍。还有一项实验里，近半数受试者虚假记得一些从未拍摄的电影翻拍版，其中包括由威尔·史密斯主演的《黑客帝国》；去年的一项研究发现，深度伪造和AI生成文本都能有效植入关于完全虚构政治丑闻的虚假记忆，甚至降低投票意愿。研究者也指出一个反直觉的细节：深度伪造视频在制造虚假记忆上，效果并非稳定优于纯文本——问题不在造假手段有多华丽，而在记忆本身有多易受暗示。IT之家雷科技CNMO科技
三道常见防线，在实验里逐一失守
第一道是"我知道这是AI"。乔治城大学海量数据研究所助理研究员玛蒂亚·西姆的团队招募331人观看一段汽车撞倒行人的简短动画视频，一两天后给他们读一份AI生成的事故摘要：拿到准确摘要的人近84%能正确记住视频里的交通标识，拿到AI自信给出的错误标识信息的人，正确率仅约45%；就算提前告知受试者这份摘要是AI生成，也无法避免被它影响。IT之家
第二道是人眼鉴别——目前普通人正确识别AI生成内容的能力“基本相当于抛硬币”。第三道是"人在环路"的专业复核：企业与政府机构普遍寄希望由资深专家审核AI输出，但研究表明，用户并不擅长发现AI幻觉，且自身判断极易被错误信息诱导；西姆进一步指出，AI会改变人们用来排查AI错误的判断与记忆，让人工监督这层保障从根本上失效。独立核查能力的"用进废退"也已有直接证据：2025年发表在《柳叶刀·胃肠病学和肝病学》上的一项研究中，19名资深医生评估近1500例结肠镜检查，常态化使用AI辅助之后，他们独立检出癌前病变的能力下降约20%。CNMO科技Vista看天下
相册没有被盗，危险的是"原件感"失真
回到标题的问题：目前没有证据显示云端电子相册正在被大规模篡改，文件层面该存的还在存；真正松动的是照片作为"真实"的凭证价值。AI系统不只是存储过去，它还会解读、总结、重构过往信息，并且有时会出错——而相册恰恰是这类功能最密集的产品：自动"回忆"合辑、一键AI修图、图文摘要，相册正在从一格被动的底片架，变成主动替你解释过去的系统。这正是梅斯本人面对的两难：她的团队搭建Memoro、MemPal等数代外部记忆系统，用AI搭配可穿戴设备记录日常生活片段，初衷是给记忆衰退者（她的母亲现年96岁，已衰退到无法从中获益）留住独立生活的能力——外部记忆越强，人就越依赖一个会出错的系统来定义"我经历过什么"。IT之家
另有一条更安静的路径同样值得警惕：不是植入假的，而是让真的记不进去。据IT之家报道，该团队去年发布、目前正接受同行评审的一项实验中，54名受试者撰写SAT风格作文，头皮电极显示，使用ChatGPT的一组大脑区域连接最弱，随后复述时，依赖AI的人很难回忆起自己刚写下的文字。看照片、配文、生成"每日回忆"若都交给AI代劳，属于你大脑自己的编码过程也被顺手跳过。现有研究同样要划清证据边界：实验室测的是几分钟到一两天前看到的照片和摘要，还不能等同于真实相册中的长期自传体记忆被不可逆改变，也没有证据证明普通AI使用必然造成永久性记忆损伤；这个领域仍处早期，本周AI伦理与社会研究者已在瑞典马尔默召开年度会议，"当AI开始干预人类记忆，后果如何"正是议题之一。
用户现在能做的三件事
保留原始文件，别让修改版顶替原件。用相册里的AI修图、增强、消除功能时，保留未经处理的原片或开启原图备份；记忆的底账应该停在"拍下的那张"，而不是"改后的那张"。
重要事实回查源头，不拿AI摘要当记忆。事故、纠纷、就医、合同这类场景，以原始录像、原件和在场者的陈述为准；西姆的实验说明，"知道这是AI写的"并不能免疫它的误导。
给"记得很清楚"配交叉证据。记忆被篡改后，当事人既察觉不到、自信还更高——关键事件尽量用照片、聊天记录和其他见证者的独立记录互证，这是鉴别能力接近抛硬币时，普通人手里最实在的办法。
电子相册的未来，取决于内容溯源、识别技术和使用习惯能否跑赢生成与篡改的速度。至少从今天这组研究看，"一张照片等于一段发生过"的默认等式已经不再自动成立：照片正在从证据，变成需要核对的线索。
