「空房间测试」爆火:AI记住的那个你,不是你的第二大脑

源自47位全网作者

17:39

给ChatGPT一张空房间的照片,加一句:“用你知道的关于我的信息,把这个房间填满。”几秒后,房间里摆出了猫、咖啡、相机——多是你聊天时顺嘴漏过的。36氪知乎

11月7日起玩法在X刷屏,较早的帖子两天内浏览约227万、回复4400多条。波兰网友Jakub晒的房间里竟有一只“衣鱼”——一年前随口问过是什么虫。有人调侃:AI是最便宜的装修师,也是最会偷看的。知乎36氪

先泼冷水:它记住的,不是你建的库

那个“你”本质是平台记忆,跟知识库不是一个东西:上下文是本轮摆桌上的材料,知识库是你自管的档案室,记忆是系统替你存的小抄——存什么、用不用,全由产品说了算。OpenAI帮助中心写得很直白:记忆来源包括过往聊天、自定义指令、上传文件,甚至已连接邮箱。知乎

别急着喊“好准”。一篇入选ACM Web Conference 2026的论文把这事量化了:马普所等机构让80名用户导出记录,从1058段对话里挖出2050条记忆——96%是AI单方面存下的,只有约1/24经过用户点头。36氪微博

其中52%是心理侧写、“愿望”占大头;它摆的是抽样展示,不是清单——会猜错,也会脑补。微博知乎

「空房间测试」爆火:AI记住的那个你,不是你的第二大脑

把它当一次免费的记忆审计

BeInCrypto提醒过:结果图一发出去,等于给陌生人展示了一遍你的个人画像。更要紧的是:删除对话,不等于删除已提炼的记忆。知乎36氪

姿势:设置里逐条查看删除记忆;临时聊天不新建记忆,开“无个性化”不读取已有记忆。论文还提出“归因护盾”:提问前先提醒什么会被记走。知乎微博

一句话点破:AI的记忆是AI的,不是你的。知乎

你自己的库,真正的活不是“存得多”

Anthropic近期的Agent记忆研究把尺度定成:只为以后真会用到的东西花力气。让两代Claude玩《宝可梦》,一版逢战斗逢道具就建档,写了413个文件拿1枚徽章;另一版只写9个文件、专记屏幕上看不到的东西——目标、验证过的打法——拿4枚。连每步都看得见的信息也记,只会越记越忙。知乎

翻译到你身上:平台记忆替你记“口味偏辣”就够了;值得亲自维护的是验证过的判断、不想重推的结论、AI看不见的材料:图片附件它只读到引用串。转录会出错、灵感没处放,全是教程评论区的真问题。哔哩哔哩

「空房间测试」爆火:AI记住的那个你,不是你的第二大脑

一句话收束:平台记忆是便利,自己的库才是资产。下次让AI填完房间,猜对的存进自己的库;猜错的更要当心——它会把错的当成你,继续记住。

内容由AI生成

精选参考来源

1. ChatGPT「空房间」测试怎么玩?提示词、记忆原理和隐私风险,附 3 个模型实测

2. ChatGPT一秒画出个人秘密,全网疯转“空房间”测试

3. Anthropic 怎么给 Agent 设计记忆,个人知识库怎么参照

4. AI 的记忆是 AI 的,不是我的

5. 这篇名叫《The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT》的论文,分析了 ChatGPT 的记忆机制,来看下关键内容:1、数据来源是 80 名主要在美国和欧洲的用户,他们导出了自己的 ChatGPT 记录,捐献给了给研究者,其中 65 人的记录里共找到 2050 条记忆,分别在 1058 段对话中触发。2、目前决定记忆什么主要是靠 AI,只有 4% 的记忆是用户明确说了记住之类的话,其余 96% 都是 ChatGPT 自己判断有用后存下的。3、28% 的记忆包含 GDPR 定义的个人数据,7% 含有特殊类别的数据。4、研究者用了心智理论框架分析,发现 52% 的记忆记录的是心理状态。其中欲望占 73%,意图占 16%,情绪只占 14%。5、换句话说,ChatGPT 偏好记录你想要什么,打算做什么,而并非是一时的情绪,它记录的是人格框架。6、研究者用开源模型复现了 ChatGPT 的记忆提取过程。他们发现,如果每句话都提取记忆,含敏感信息的比例会从 28% 升到 31%–35%。7、据此他们做了一个归因护盾,它会提前提醒你这句话可能被记下什么,并把问题改写成不暴露个人信息的通用问法,回答质量基本不受影响。#how i ai#

6. 如何让AI拥有永久记忆,并协助你开启第二大脑!AI+Obsidian保姆级教程,构建你的永久知识库。

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章