什么值得买App下载 App ›
连续签到专享现金活动

AI 写码、测试全绿,你只会说“AI 说没问题”?警惕认知投降

你有没有过这种时刻:Agent 帮你改完一个功能,测试全绿,修改说明写得很漂亮,你扫一眼就点了通过。第二天同事问:"这个导出功能,凭什么不会把别的客户数据带出来?"你张了张嘴,只能说出一句——“AI 说没问题。”

AI 写码、测试全绿,你只会说“AI 说没问题”?警惕认知投降

11 月 3 日,Chrome 工程负责人 Addy Osmani 发了一篇《Critical thinking when agents do the work》,说的就是这种状态:认知投降。他把判断力的流失分成三段:知乎知乎

  • 认知卸载:活交给 AI,但你自己懂任务、对结果负责、还会检查——这是健康状态,他自己也天天这么干;

  • 判断让位:AI 的输出不再是被核实的假设,直接成了下一步工作的前提;

  • 认知投降:AI 的结论悄悄变成你的结论,你觉得压根没必要再查。知乎

最吓人的是,投降不是一步跳进去的,是个滑坡。第一次你逐行看代码,第二次看变动范围,第三次只看总结里"已完成、测试通过"。每次都只少看一点,最后连验收依据也一起省掉了。提出"认知投降"这个词的沃顿商学院研究者做过实验:让 AI 故意给错误答案,参与者照样采纳。一个自信的外部答案,本身就足以改变判断过程。知乎知乎

为什么没人能例外?高频、流畅、大部分正确的输出,把"问题到答案"之间的思考空隙压到几乎为零,这就是疲劳驱动的投降。Agent 一次甩出 6000 行 PR,你有时间看完吗?大部分人的真实动作是跑一遍,没报错,next。知乎

AI 写码、测试全绿,你只会说“AI 说没问题”?警惕认知投降

Anthropic 的内部调研说得更直白:监督悖论——有效监督 AI 所需要的,恰恰是人因为越练越少而逐渐生疏的那部分技能。知乎Anthropic 官网

AI 写码、测试全绿,你只会说“AI 说没问题”?警惕认知投降

那怎么才不会被"养废"?Osmani 给的办法其实很便宜:

  1. 开工前写下预期:你要什么、什么绝对不能发生。"导出只能拿到当前账号有权限的数据"写进任务说明,比口头叮嘱十句管用;

  2. 让 Agent 自己交代假设:哪些地方要求没说清、是你自行决定的?还有什么没验证?把隐藏取舍从"看起来做完了"里拽到台面上;

  3. 验收看证据,别看颜色:测试和实现可能共用同一个错误前提,这时候全绿只证明它们自洽。多问两句——这个检查证明了什么?还有什么没检查?

  4. 任务规模对上验收能力:Osmani 管这个叫"编排税"——启动五个并行 Agent 很爽,消化它们的产出要靠你的注意力。待验收的结果一直积压,就先清完手里的,再决定加不加量。知乎

AI 写码、测试全绿,你只会说“AI 说没问题”?警惕认知投降

怎么保住手感?Anthropic 那份调研给的药方很朴素:挑一两样你不想丢的能力,定期亲手做一遍——独立定位一次报错,或者关掉摘要,把方案的理由自己复述一遍。练完再和 AI 对照,双方的盲区都藏不住。也说句公道话,这不是要谁退回古法编程。真正的标准只有一个——别人问"这个为什么能上线",你能指出权限过滤写在哪儿、拿出跨账号的测试结果、顺便说清哪些情况还没测。知乎

AI 省下的应该是你执行的时间,不该是你接受结果的理由。

评论

评论区空态插画

当前文章无评论,是时候发表评论了