11月4日,Anthropic Claude Code团队工程师、前谷歌技术高管Addy Osmani在X上发文警告:随着AI智能体越来越强大,人可能在依赖中逐渐丧失独立思考、验证结果和理解复杂系统的能力,最终把AI的判断直接当成自己的判断。 几乎同一时间,中国教育科学研究院公布的调查显示,85.6%的受访中小学生曾在做作业时使用AI工具,央视网把"用AI会不会悄悄废掉思考力"的追问送上了热搜。 这个热榜问题的答案其实已经能从研究里拼出来:边界划不住"用多久",只能划在"做到哪一步"——AI越是准确,越要在你准备放行下一步之前划线。投资界央视网
风险不是变笨,是练得少了
担心"AI废掉思考力",研究给出的说法更具体:退化的不是能力,是练习量,而你把它用到第几步,决定这条路径会不会荒掉。一项覆盖土耳其高中生的随机对照实验把学生分成三组——AI直接给答案、AI只给提示、不用AI:撤走AI之后,习惯直接抄答案的那组成绩回退了约17个百分点,只拿提示的那组与从没用过AI的对照组没有显著差异。 同样是用AI,给提示还是给答案,结果完全不同。Osmani把滑坡描述成一条连续谱:起初只是认知卸载,工作交给AI但自己还懂任务、能判断结果;接着是判断让渡,AI的答案逐渐成为下一步的默认依据;终点才是"认知投降"——AI写得啥你信啥,测试全绿就大手一挥批准。 危险恰恰藏在AI变准之后:现在的AI很容易给出一份看起来专业的答案,用久了,人经常扫一眼就下意识相信,复查失去了触发器。知乎36氪小红书
五条可操作的边界
第一条:让它找,不让它定。查资料、做汇总、改格式这类出错代价低的事,放心交出去;需要别人承担后果的决定——投资、给孩子提建议、产品做什么、能不能发布——留在自己手里。自查红线很硬:如果一个问题的答案连你自己都解释不了,即便借助AI也不行,你就已经让出了对结果的掌控。微博
第二条:提问之前,先写下你的假设。哪怕猜得很离谱也要先猜。原因很实际:一旦读过一份写得漂亮的答案,你就很难再想象其他可能性了,先形成假设、保留关键判断权,是Osmani和跟进报道共同强调的起手式。 三分钟的空档,就是过去"提出问题到得到答案之间"那段思考自然发生的时间。IT之家
第三条:要选项和代价,不要标准答案。把"这题怎么做"换成"有哪几种做法、各自的代价是什么",你从接收者变回选择者——这正是土耳其实验里"提示组"没被拖累的用法,负面效应消失靠的不是少用,是换一种用法。知乎
第四条:验证证据,而不是验证绿灯。一个绿色对勾只说明某一项性质得到了验证,我们却很容易想当然地认为它覆盖了一切;先看它实际执行了什么、返回了什么,再读总结。 读完一份AI给的文档,可以把它关掉,试着凭记忆写出主要论点——写不出来,就是没读进去。微博
第五条:留出定频的"手动"任务。每周做一件全程不碰AI的事:写一段东西、手推一道题、做一张表。不是为了效率,是为了校准自己的真实水平,长期不用的技能确实可能逐渐退化。 每个月顺手盘点一次:自己已经把哪些技能交给了AI,哪些可以放心外包,哪些必须继续掌握。36氪
另一边的声音,和证据的边界
争议的另一方也在热搜上。数学家陶哲轩此前给出的划线更直接——“AI不能全用,深度思考不行”。 11月3日刷屏的黄仁勋访谈则更乐观:他拿计算器举例——计算器刚出现时大家也怕数学能力下降,可后来人们去学了编程;现在很多人记不住邮箱和电话号码,但并不妨碍思考,工具更替总会淘汰一部分旧技能。 两种说法并不矛盾:被工具接管的部分本来就不该是护城河,需要划线的恰恰是你原本要自己走完的那一段。知乎微博
最后把证据的边界说清楚,免得把好用的边界活成恐慌。这些研究基本都是短期实验,对象集中在学生和知识工作者,效应量中等;至于长期依赖是否会造成广泛、持续的思维能力退化,现有证据还不足以下定论——方向明确,程度待定。知乎
真正要防的不是某天AI犯一个大错,而是那条每一步都合情合理的慢坡:上一个答案你认真读过,下一个就略读,再下一个只扫一眼框架。你可以把工作和大部分审查交出去,但交不出责任——这五条边界,说到底都是在替"愿意署自己名字、也能为它作出解释"这最后一件事守门。