张大妈

陶哲轩提醒AI答案需理解:普通人用大模型避坑与验证指南

源自25位全网作者

12:08

让陶哲轩登上热搜的,是一段他要求放缓AI的视频,语气罕见地重:我们必须放缓AI,现在的速度简直疯了,根本没有理由这么快。10月9日,他又在博客转发了数学家托马斯·黑尔斯关于Lean定理证明器可靠性的专栏文章。这些信号指向同一个提醒:AI已经能批量给出答案,但没有人理解、没有人验证的答案,本身不值钱。这条提醒不只是说给数学家听的——它同样落在每个日常使用大模型的普通人头上。新智元腾讯科技

答案在批量生产,验证链条却处处漏水

10月6日,OpenAI把722篇内部模型生成的数学手稿一次性放上GitHub,涵盖372个结果系列和约4000个测试问题。但批量产出并不等于经过检验,有统计发现,这批手稿里只有162篇的主要结果经过了计算机验证。发布第二天,OpenAI就撤下3篇手稿——一处符号错误使一个核心论证失效,并连带影响两篇依赖它的论文——另有14篇被修订、13篇更新了引用关系。腾讯科技APPSO

数学界为AI证明搭建过最严苛的机器裁判:通过Lean内核校验的证明,长期被认为具备很高的逻辑可信度。但2026年夏季,这个裁判自身接连暴露出多个健全性漏洞。腾讯科技

7月,一份在AI协助下声称证伪考拉兹猜想的Lean形式化证明,被内核和独立检查器同时接受;几天后人们才发现,它钻的是内核处理嵌套归纳类型时的一处实现缺陷,让系统错误地接受了矛盾命题。腾讯科技

陶哲轩和黑尔斯真正警惕的,并不是AI比人更快地证明定理,而是数学正在逐渐失去“有可靠理由相信答案是真的”这一核心价值。腾讯科技

解题不再稀缺,消化答案才是瓶颈

9月8日,OpenAI宣布其内部模型通过约1万个Agent并发、仅用88小时就“解决”了纳维-斯托克斯方程这一千禧年难题。但这份证明尚未经过同行评审:按克雷数学研究所的规则,成果要先在同行评审期刊发表、再经过两年考察期,才能认定解题。智东西

陶哲轩在AI时代数学论文里给过另一组刻度:10道从未公开的研究级难题、4个前沿AI系统作答,其中7道拿到了至少一个基本无瑕的解答,计算成本只要几十到几百美元——这些题一个博士生可能要啃三年。新智元

生产端提速、消化端原地踏步,这正是他反复警告的“证明消化不良”。由他发起的25位菲尔兹奖得主公开信把分歧点说得更根本:解题只是实现核心目标——概念理解和洞见——的工具和代理。3Blue1Brown创始人Grant Sanderson在陶哲轩博客的客座文章里说得更直白:AI生成的每一个证明,天生就是一个未解决的阐释问题。国际数学联盟背书的《莱顿宣言》则立下了最低规则:AI可以参与数学研究,但人类必须为最终成果负责。智东西新智元新智元

数学家验证AI的那套逻辑,普通人能直接抄

这场争论里最值得普通人记住的是这个结构性事实:AI让成果的生产成本急剧下降,但理解、验证和判断价值的成本,并没有同步下降。它每天都在普通人的屏幕上重演:让模型算一笔账、写一段报告、查一条政策,它十秒钟给出流畅自信的结果,而你核对它的成本一分没少,甚至更高——因为你得先读懂它的逻辑。也有研究发现,频繁使用AI工具与批判性思维能力呈负相关。把数学界的验证经验翻译成日常动作,大致是四条。APPSO智东西

第一,要过程,不要只要结论。陶哲轩给数学界定的发表原则是:如果作者不能清晰讲解自己的成果,那就不该发表,即使形式化验证已经通过。用到日常,就是拿到结论后先让模型列出推理步骤、数字来源和适用条件;讲不清过程的回答,只配当草稿。新智元

更要警惕那种“太光滑”的答案:每一步逻辑严密、每个跳跃都被补齐,读起来毫无阻碍——数学家把这视为缺少人类思考痕迹的特征,对普通用户则是该多问一句“为什么”的信号。新智元

第二,用独立渠道交叉核验,别用产出答案的那条链路去验证答案。数学界的现成教训是:负责验算的内核自己就出过洞。对普通人,关键数字、日期、引文、政策条款应回到官方原文或一手出处核对,尽量再用第二个独立工具比对一次;拿同一个模型反复确认“你确定吗”,得到的只是同一套生成逻辑的复读。

第三,权威感不等于证据,转述要查原始来源和首发时间。这轮风波里就有现成的反面教材:呼吁抵制OpenAI的人类数学协会声明,被AI检测工具Pangram测出100%由AI生成。APPSO

而声明经陶哲轩博客转发后,很快被网友传成由他本人领衔发出——事实上他并不在该协会的会员名单里。专业圈子里的署名错位一天内就能传遍全网,普通人引用“某某说”之前,多花两分钟回搜原始出处是值得的。APPSO

第四,把AI输出当草稿,发出前补上人类负责这一步。无论转发给同事的报告、填进表格的计算,还是据此做出的消费与医疗决定,先问一句数学家们问过的问题:这个结果我核验过哪一步,错了由谁负责?模型不会替你承担后果,负责的那个人只能是你。

他不是反对AI,是反对“不理解就相信”

把这轮警告读成技术恐慌会弄错对象。陶哲轩公开说过,自己使用AI进行文献搜索、文本自动补全和图表生成。喊出“放缓”的前一天,他还在大力推进开源数学模型SAIR项目。他和联名信里的同行们反对的从来不是工具,而是把“得到答案”当成“理解答案”。公开信里那句话适合留给每一个大模型用户:把一个人空投到珠峰峰顶,和亲自攀登珠峰,完全是两码事。模型可以随时把你空投到答案附近,但答案能不能变成你自己的能力,仍取决于你有没有亲自走过验证的那几步。新智元新智元智东西

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章