AI把用户的笔记改写了?得到大脑的这场幻觉争议,用AI笔记的人该做三件事

源自12位全网作者

09:17

前几天,一位"得到大脑"的忠实用户在小红书上炸了毛:自己在App里存完笔记回头看,发现"哪里是我说的话?全是AI自动臆断的"。小红书楼主说自己记录时讲得非常明确,“而且确认过很多次”,这样的情况"不是一次两次了"。

AI把用户的笔记改写了?得到大脑的这场幻觉争议,用AI笔记的人该做三件事

评论区比帖子本身更热闹。有用户说,“昨天发现它自己基于我的资料编撰了产品套餐……还挺会给自己加戏”。小红书有人猜测是模型出了幻觉;也有人劝"AI你得给它方向和要求",被楼主直接顶了回来:"我说的非常明确,而且确认过很多次。所以我才生气的。"还有用户说自己早就在官方用户反馈入口留过言,反映AI乱改内容,结果没有任何回音。

从发帖到回应,隔了10天;从版本到版本,只用几天

帖子发于8月8日。此后10天,没有人来。直到8月18日,才有人在评论区现身说"我来具体看下这个情况",请楼主把和AI助手"小步"的对话过程私发过去排查。小红书

对比一下功能更新的速度:8月17日,官方刚刚宣布上线6个新功能,版本推到v3.1.2,录音、拍照、文件上传和直播整理能力的增强被一并提起,话题里还挂着"得到AI录音卡"。小红书再往前数,7月官方更新的各类新功能就有15项。也就是说,上市不到三个月,见诸公告的新功能至少21个。功能迭代按天算,而一条戳中产品命门的信任投诉,10天才等来第一次回应——这个反差本身就是个信号。

对笔记产品来说,"改写你的话"是另一种性质的问题

笔记产品和聊天AI不一样。你存在里面的是"自己的话"——会议记录、灵感碎片、对着手机念的口述。用户愿意付费(哪怕入门会员299元/年),买的正是"这是一个忠实记录我的地方"。小红书

聊天AI出错,代价是一次对话,重新问一遍就好。但AI篡改笔记库里的内容,是污染——半年后你回头查资料,分不清哪句是你说的,哪句是AI编的。投诉帖下,一条评论说得特别重:“能不能优化下你们的后台,这样篡改数据太吓人了,根本没法用啊”。小红书

得到的用户对这件事尤其敏感。今年初小红书上有篇热帖问"得到app为什么会衰落",评论区高赞评论之一是这么说的:“自己不去主动阅读和主动思考,总靠别人的解读与总结,然后觉得很有道理,这些总归不能成为自己的知识”。小红书一群对"知识被代加工"保持警惕的用户,发现代加工把自己的原话加工没了,信任崩塌是加倍的。

但说句公道话:幻觉不是这个产品的全部

翻完近半年的用户帖,得到大脑的口碑其实是哑铃型的。

一头是粘性很高的用户。有人把"拷问一下"功能称为年度伟大发现,说AI追问虽然犀利,但帮自己想清楚了当下该做什么。有人每天往里随手丢碎片,系统每周自动生成生活周报,“飘忽的情绪有了存放角落”。有硬核用户把一万三千五百条得到大脑笔记同步进Obsidian,给自己搭了张知识图谱,一边感叹"挺高级",一边也吐槽知识点之间的链接还太稀疏。小红书还有人挖出订阅知识库广场里的免费共享知识库——那条帖子收藏72次,比40个点赞还高,典型的"有用工具"型口碑。小红书脱不花7月底亲自下场推"一键继承顶级知识库",成了这个夏天官方系互动最高的一条内容。小红书

AI把用户的笔记改写了?得到大脑的这场幻觉争议,用AI笔记的人该做三件事

AI把用户的笔记改写了?得到大脑的这场幻觉争议,用AI笔记的人该做三件事

另一头是失望和质疑。8月2日有用户说,花300多买会员,“还不如OPPO手机自带的免费小布记忆实用”。小红书6月23日有用户直接@罗振宇和几位高管,追问"得到大脑到底用的啥大模型",至今没有答案。小红书高价专家版测评帖下的一条评论则戳中了要害:“涉及数据的,建议不要觉得AI给到后再也不用查了,通常第一次都是不靠谱的……高幻觉领域”。小红书这句话不只说给得到大脑听,也说给所有AI笔记产品。

AI把用户的笔记改写了?得到大脑的这场幻觉争议,用AI笔记的人该做三件事

用AI笔记的人,现在该做三件事

不管你用的是得到大脑还是别的AI笔记产品,这几条建议都实用。

第一,重要的"原话"留底。会议记录、访谈内容这类需要逐字引用的东西,不要把唯一副本交给AI。录之前本地备忘录留一份,或者存完后用导出、分享功能再备一份。

第二,给AI下指令时换个说法。让AI整理时,明确加上"只整理结构,不改写原话"“只引用我的原文列要点”,不要让它对你的原始材料做"润色重写"。这两件事的幻觉风险完全不是一个量级。

第三,别急着锁大套餐。入门会员299元/年,先用免费功能和知识库广场试水,用满一个月,摸清它的"改写边界"和你的习惯是否匹配,再谈续费。

另外有三个信号值得继续盯:这次官方排查会不会给出公开解决方案,而不是私信安抚了事;得到会不会披露底层用的是什么大模型——透明是信任的前提;以及接下来几个版本的更新公告里,会不会出现"幻觉治理"这几个字。

AI笔记产品值得用,但要用对位置:它是助手,不是代笔;它可以帮你整理,但不能替你说话。罗振宇在十周年时说得到要"重新出发",这篇投诉帖就是重新出发的第一场考试。答卷写得怎么样,看接下来给出的是方案,还是沉默。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章