AI可篡改人类记忆:普通人防范虚假记忆植入的实用指南

源自21位全网作者

16:16

10 月 16 日,《华盛顿邮报》刊发研究报道;10 月 19 日,#研究发现AI可篡改人类记忆# 登上国内平台热榜。报道梳理的研究来自麻省理工学院媒体实验室帕蒂·梅斯(Pattie Maes)教授团队,结论并不玄乎:在严格的对照实验里,AI 生成或 AI 篡改过的内容,确实能把从未发生的细节写进普通人的记忆,而且当事人对假记忆的自信比对真记忆还高。这不是科幻式的"洗脑",而是实验室里可复现的对照结果。对普通人来说,更值得关心的问题其实是:哪些日常用法正在给虚假记忆开门,怎么改习惯才能既用 AI,又不让它替你记住过去。微博

虚假记忆是怎么被装进大脑的

梅斯团队的实验从 24 张普通照片开始:婚礼、城市街道、赛跑,200 名受试者先看过原图,短暂休息后,一组再次看到原图,另一组看到的却是被 AI 动过手脚的版本——人物表情被改、画面里多出军人、添上了气候变化的景象。随后的记忆测试里,看过 AI 篡改图的人错误回忆率大幅上升,而且他们对这些虚假记忆的自信程度反而更高——梅斯的评语是"基本上,我认为这一切非常危险"。微博微博

图像之外,对话同样能下手。一项实验让 200 位志愿者观看犯罪视频后,分别接受问卷或 AI 聊天机器人的盘问:AI 警察组诱导的虚假记忆,大概是控制变量组的 3 倍,因为 AI 会根据回答即时反馈、肯定错误细节并顺势追问,比其他组的诱导方法都更有效。一周后再测,这些假记忆非但没消失,当事人依然记得清清楚楚——错误信息一旦经 AI 之手焊进回忆,消退得很慢。微博知乎

文本也不甘落后。在一项测试里,近一半参与者记住了根本不存在的电影翻拍,包括"威尔·史密斯版《黑客帝国》"。AI 生成的视频还能让一批人"回忆"起从未发生过的政治丑闻,而且这种影响在信息更正之后依然持续。值得注意的是,研究还发现深度伪造视频制造虚假记忆并不总比纯文字更有效——"只看视频才需要警惕"这个直觉本身就靠不住。微博微博

三个反直觉发现:为什么"我小心点"挡不住

第一,记忆本来就不是录像带。《华盛顿邮报》在这篇报道里解释:人只能保留经历的一小部分,细节会流失、回忆会模糊,而且每次回想,记忆本身都在被重新拼改。AI 塞进来的假细节,恰好能嵌进这块拼图。微博

第二,假记忆自带确定感。"我特别记得是这样"不能当证据——实验反复出现同一个组合:记错得多,自信也更足。你的大脑不会为虚假记忆配备任何"可疑"标记。

第三,知道是 AI 也不免疫。研究者马蒂亚·西姆(Mattea Sim)招募 331 人观看一段汽车撞行人的动画,一两天后阅读 AI 生成的事故摘要:有的版本如实描述了现场交通标志,有的版本自信地说错了标志。看到准确摘要的人约 84% 记对了标志,看到误导摘要的只剩约 45%。最关键的是,研究者提前告知参与者摘要是 AI 生成的,他们依然被带偏。西姆由此点破一个让"人在环上审核"共识很难受的结论:AI 可能恰恰改变了人们用来识别 AI 错误的那套判断力和记忆,“人类的监督可能不是解决这个问题的绝佳方案”,人类这条"最后防线"的前提本身在松动。微博

普通人的防范清单:不是停用 AI,而是改用法

这些实验有一个共同点:受影响的都不是"不知道 AI 存在"的人,而是正在用 AI 读图、问答、总结的人。防范因此不需要反技术,只需要换几个习惯。

重要记忆要留原件,而不是复述。 证件、合同、病历、聊天记录、现场照片和票据的原件,是你记忆的"锚"。既然每次回忆都在改写、自信又不可靠,大事核对原件,永远比相信"我记得很清楚"可靠。

别让 AI 摘要成为你对一件事的第一手记忆。 需要快速了解案件、事故、纠纷时,看摘要可以,但关键决定前回到原始材料重新核对一遍——尤其是合同条款、诊断结论这类一旦记错代价很高的东西。先读原件、再看总结,或看完总结必须回到原件验证,顺序很重要。知乎

需要陈述自己经历时,先自己写,再让 AI 整理。 “3 倍虚假记忆"来自盘问式对话:AI 的肯定和追问会诱导你补出没发生过的细节。在笔录、申诉、理赔这类场合,先把事实用自己的话落在纸面,再交给 AI 润色排版;面对 AI 的提问式回忆,凡是它塞进来而你本来没提到的细节,明确说"不记得”。

给 AI 加工过的内容留好出身标记。 一项研究让参与者分别在有或没有 AI 协助的情况下产生想法,一周后他们很难分清哪些念头出自机器、哪些是自己的。用 AI 写过提纲、文案、答复,就把原始要点单独存一份;日后回看时,这份东西替你证明"我当初记得什么"。

医疗、司法、纠纷场景,不要只依赖 AI 总结的"人证"。 警方在试验用 AI 总结执法记录仪,医院用它汇总病历。这些环节里,把 AI 记录当索引、把原件和当事人当依据;虚假记忆一旦种下,事后辟谣的作用有限,源头回避比事后更正便宜得多。微博

边界:不必恐慌,也别因噎废食

报道同时提醒,相关研究仍处早期,现有证据并不能证明正常使用 AI 会必然导致认知退化或永久性记忆丧失;人类一直把思考和记忆外包给算盘、字典、计算器,AI 只是把外包的对象从"存储"挪到了"解释"。微博

一个耐人寻味的细节是:梅斯本人就在做记忆外骨骼。她的母亲患上认知衰退后靠手写便签度日,梅斯的团队由此开发了 Memoro、MemPal 等记录生活片段、随时可查的 AI 记忆助手。她的经历划出了这条真正的分界线:AI 帮你"存"记忆可以是雪中送炭,AI 替你"改"记忆才是隐患所在。存储可以外包,解释和回忆这一步,始终要留一个真人,站在你自己的原件前面。

在什么都能伪造的时代,把"我不太确定"留在嘴边不是软弱——不确定感本就是人类记忆的正常状态,让确定感单独作证,才是虚假记忆真正的大门。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章