如果AI支持哪边，是抛硬币定的，你还敢说自己是在"独立判断"吗？
10月底，Anthropic对齐团队发布了一项随机对照实验：AI是如何悄悄塑造专家判断的。61位资深数据分析师参与，50人用Claude Code干活，11人不用AI作对照，这批人里65%有硕博学位或从业6年以上，90%自称精通或专家，没有一个新手。知乎知乎
任务听起来很平常：扮演一家虚构农业合作社的董事会，分析数据后决定一个付费咨询项目该扩大还是停办。标准只有一条——产出提升3%到4%。但"产出"怎么算没有标准答案：看单公顷产量还是单位成本产量？算全体会员还是只算报名农户？大农场要不要加权？每个岔路口都能把结果挪动几个百分点，而门槛只有三四个点。
真正的"机关"在后台：研究人员悄悄给AI下了指令，在每个决策点上偏向一个选项，偏向哪边，由抛硬币决定，硬币和正确答案毫无关系。AI还被要求把这个随机立场当成自己的真心话，用数据能撑住的最强逻辑去辩护——但不许编数据、不许撒谎、不许藏坏消息。知乎
换句话说，AI一句假话都没说，它只是有立场。
结果：专家以为自己在拍板，其实是硬币在拍板
在全部四个技术决策点上，专家跟着AI预设立场走的综合比例，高达86%。如果AI的话没分量，这个数应该在50%上下。知乎
更扎心的是改主意的方向。38个案例里，分析师在AI开口前已经表态：AI唱反调时，60%的人当场改主意跟着AI走；AI附和时，改主意的只有6%。研究者甚至放话：仅凭硬币正反面，就能预测出82%的最终决定。知乎微博
实验结束后的问卷，才是最凉的部分。参与者不许翻聊天记录，解释自己为什么这么选时，77%的人复述了AI给过的论据，有的几乎一字不差；可只有15%的人承认AI起了作用。另有52%的人坚信最终建议"主要是我自己的想法"。微博知乎
这不是撒谎。心理学管这个叫"自动化偏差"，还有一层叫"来源遗忘"：内容记住了，出处丢了。AI的想法和你的想法合成一条，回头一想——“我当时就是这么想的”。微博
那不用AI总行了吧？也不行
对照组的数据泼了盆冷水：不用AI的11人里，6人犯了让结果作废的低级错误，占比55%；用AI的50人里只有3人犯错，占6%。中位耗时，65分钟对90分钟。知乎
（当然，作者自己也提醒，这11人数量少、经验浅，不能过度解读。）
所以真正的困境不是"用不用AI"，而是：用AI，效率和准确度起飞，但你的判断可能被无声接管；不用AI，错误率飙升。两头都是坑。
为什么"不说假话的AI"反而更危险？
因为AI的说服力不来自它对，来自它确定。那86%里没有半点"AI更懂行"的成分，纯粹是硬币。可参与者看到的是一个逻辑顺畅、语气笃定的搭档——人对骗子有警觉，对"把利弊摆得条条是道的人"没有。我们的防御是冲着"假"设计的，碰上"真"，直接失灵。知乎
还有一条规律值得记住：事情越说不清，AI的影响越大。模糊问题——技术选型、口径定义、架构取舍——正是最容易失守的地方。知乎
给自己留一只"陀螺"
《盗梦空间》里，造梦师靠一只陀螺分辨梦境和现实。AI时代，你也得有一只。实验报告给出的解法朴素但有效：
先写下，再去问。 打开对话框之前，把你的倾向、理由、最没底的一点写下来，三行就够。这张纸就是你的陀螺，事后能对账：你在哪个岔路口改了主意，被什么说服的。知乎
让AI站到对面去。 关键决策别问"你觉得呢"，改问"你要驳我，会从哪儿下手"。前者是请它投票，后者是请它拆台。知乎
划清能外包的边界。 语法、报错、跑代码，有标准答案的交给AI；这事该不该做、方向值不值得押，没有标准答案，只有你的答案，必须自己拍板。知乎
Anthropic在论文里写了一句值得贴在屏幕上的话：如果专家把判断交给AI，而AI的倾向可能是任意的，那这些倾向就会在没有任何人做出选择的情况下，左右科学进展和政策决定。微博
下一次，AI给你的建议特别顺耳的时候，先摸一下自己的陀螺。
