AI 越准,我们越难发现决定不是自己做的

源自21位全网作者

08:52

Anthropic 10 月 27 日公布了一个实验。50 位有因果推断经验的专业分析师,用 Claude Code 评估一个农业合作社的咨询项目该不该扩大。研究者用掷硬币的方式,悄悄给 AI 在四个分析选择上各设了一个倾向:用亩产还是单位成本、用哪种比较方法、覆盖哪些农场、大农场要不要加权。分析师全程不知情。

结果,四个分析选择上,他们的选择有 86% 跟着 AI 的倾向走。 如果 AI 的意见没有影响,这个数字应该接近 50%。在 38 个“先表达过偏好”的案例里,AI 唱反调时,60% 的人改了主意,AI 附和时只有 6%。Anthropic知乎

任务结束后,77% 的人至少在一次回答里复述了 AI 的论证,有时一字不差;只有 15% 提到这是 AI 的说法。 但超过一半的人仍认为,最终建议更像自己的判断。Anthropic知乎

研究者自己提醒,实验故意加强了 AI 的倾向,现实里的影响可能更小。 但方向值得警惕:这不是一次“AI 出错”的事故。实验里 AI 被要求不许误导,数据也没藏,它只是把一边的道理讲得特别充分。 问题恰恰在这儿:一边的论证足够完整,另一边只被带过,你很难意识到自己没做过比较。被有道理的一方说服,本来不是问题;问题是 AI 只给你看了一边的道理。Anthropic知乎

Anthropic 的 Claude Code 工程师 Addy Osmani 把这叫作一条从“外包”滑向“放弃”的连续谱。把任务交给 AI、但自己仍然掌握结果,是认知外包;工具的输出变成你下一步思考的前提,是判断让渡;AI 的输出悄悄成了你自己的想法,你觉得没什么可查的,是认知放弃。11 月 3 日,他写道:如果连借助智能体,你也解释不清一个问题的答案,那就说明你已经交出了对这个答案的主导权。微博

这条连续谱最难察觉,因为每一步都很合理。Addy 举了代码审查的例子:第一次认真检查,第二次扫两眼,第三次直接点通过,人就这样从亲自写代码,变成了给 Agent 盖章的。 写方案、做决策也一样,因为这类工作很少有一个“正确答案”可供核对。数据对不对、格式顺不顺,都能检查;但“为什么选这个口径”“为什么先做这件事”,这些选择本身没有对错,只有取舍。Agent 在生成方案时,会替你作出许多小决定:默认值怎么设、范围划到哪里、两条冲突的需求先满足哪条。 它们不会出现在最终文档里,也不会出现在“已完成”的总结里。你审的是结果,让渡的是前提。36氪微博

更麻烦的是,这种让渡不会让人心虚。Anthropic 的实验里,跟着 AI 走的人,对最终建议的信心是 71 分;没跟的人,73 分,差不多。 答错你能看见;答得顺、答得全、答得让你懒得再想,你看不见。Anthropic

那怎么办?不是少用 AI。Addy 的建议里,最有用的一条是:提问之前,先写下自己的假设。哪怕猜错,也要先有一个版本。 另一个办法是让 AI 列出它替你做的决定:默认了什么、排除了什么、补了哪些你没说的条件。然后挑会改变结论的那几个,问它另一边最强的理由。36氪

还有一条更笨的:每月记下自己已经不再亲手做的事,看看哪些是有意放下的,哪些是不知道什么时候丢掉的。停止练习的技能会消失,而且比想象中快。微博

AI 可以帮你把方案写得更快、更全、更像样。但它没法替你拥有一个判断。真正的问题不是某天 AI 会错得离谱,而是某天你发现,自己已经说不出当初为什么选了这条路——而那份方案,一直署着你的名字。

更准确地说,我们失去的不是思考本身,而是在看到答案之前,先形成自己答案的那一步。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章