25位菲尔兹奖得主联名反对AI做数学,真正怕的是理解来不及发生

源自109位全网作者

22:37

今年9月11日,25位菲尔兹奖得主联名发表《人工智能在数学中的严重错位》。公开信官网的署名名单现有28位,从1974年的芒福德排到2026年的邓煜;官网显示联署人数超过8400人。

新闻标题大多写成“数学家反对AI做数学”,可公开信第一段就承认,大语言模型已经能解决许多领域的重大未决问题。他们反对的是另一件事:AI公司把“解决数学问题”当成基准测试来推进。Math and AI

导火索在三天前。9月8日,OpenAI宣布内部模型用约1万个智能体、88小时给出了纳维-斯托克斯方程的一种证明,166页文稿,并在Lean中完成形式化验证。同一天上午,纽约大学数学家Tristan Buckmaster刚公布相关证明;他随后公开质疑OpenAI在时间线上接触过自己的研究信息,OpenAI否认。一个月后,OpenAI又一次性公开722篇数学手稿,归为372组。陶哲轩后来引用OpenAI自己的数字:模型一共试了约4000道题,成功率只有9%。发布第二天,一个符号错误让3篇手稿撤回。

真正让数学界不安的,不是“机器也会做题”,而是“验过”不等于“懂了”。Lean能检查形式推导是否自洽,却不能保证形式化的命题就是论文想说的那个命题。

Bastounis等三位研究者检查OpenAI的纳维-斯托克斯证明后发现,手稿里的核心引理在Lean代码里消失了,代码反而引入了手稿没提的能量级联不变量,两边证的并不是同一个陈述。 陶哲轩说得更直白:过去一个重大结果出来,可以请作者做报告、追问、讨论;现在,他找不到OpenAI里任何人来帮他读懂那几百份批量产出的证明文稿。知乎

这就是他说的“证明过剩”。数学1.0的整套制度——论文、研讨班、教职、菲尔兹奖——都建立在“证明很难”这个前提上。一个难题被解决,真正的产出不只是那条定理,还有随后几年的报告、简化、教科书、学生和新的问题。AI把证明的供给一下拉满,却没有降低理解的成本。于是出现一种倒挂:生产的成本崩塌了,理解的成本原地不动。知乎

这种倒挂已经开始改变人的行为。研究唯一博弈猜想二十多年的Dana Moshkovitz,在OpenAI发布当晚,要用AI才能读懂那篇关于她毕生工作的证明。年轻研究者开始藏起自己的方向,因为一旦说出口,别人可能直接把问题丢给前沿模型,抢在自己之前解完。陶哲轩说,一个被解决的问题没办法变回未解决;开放问题正被像庄稼一样收割,收割后的土地比传统方式贫瘠得多。数学共同体最珍贵的资源是学生和思想,而这两样都需要时间。

再往外看一步,公开信标题里的“错位”就不只是数学的事了。它借的是AI安全领域的词:不是AI能力不够,而是目标函数错了。

陶哲轩在《自然》的专栏里举了更现实的例子:AI生成的复杂模型已经部分用于判断谁能获得银行贷款、衡量金融市场风险;如果模型的复杂度超过人类理解其失效模式的能力,风险会落到普通人身上。Nature

一个在指标上成立、却偏离真实目标的解,在纯数学里只是难读,在电网、药物试验、交通管制里可能是事故。

所以他们的诉求很具体,也很克制:给写作和思想提炼留出时间,标注结果依赖的先前工作,承认需要愿意接手的人类数学家去消化。

不是叫停AI,而是要求AI公司别把“解题”当成唯一计分板。陶哲轩提出的“数学2.0”更彻底:把评价标准从“谁先解出”转向讲解、简化、提出新问题、培养学生;建社区治理的开放数学模型;让AI增强而不是替代理解。公开信也没有把话说死:AI有潜力深化和加速真正的数学探索与理解;但它同时说,这些变化最终是受益还是破坏,将在很大程度上取决于掌控这项新技术的人所作的决定。Math and AI

数学界并非铁板一块。人类数学协会呼吁停止与OpenAI合作;菲尔兹奖得主马丁·海雷尔则认为,拒绝接触就很难影响公司的行为。

中国科学院院士励建书更乐观:微积分发明后,大量旧工作变成本科作业,但数学和数学家并没有因此消失,反而被赋能。 两种判断并不矛盾。工具革命会重塑学科,但“重塑”不等于“自动变好”。区别在于,这一次被外包的不是计算,而是理解本身。中国新闻网

回到最初的问题。他们真正担心的,不是AI比人聪明,也不是自己的饭碗。

他们担心的是,当答案来得足够快,人类会失去产生理解的那段时间。而理解需要的时间,恰恰是数学最古老、也最容易被忽略的基础设施。公开信最后说,这些问题必须紧急处理,在数学共同体内部,在开发技术的公司那里,以及更广泛的社会之中;因为社会将在许多其他形式的智力劳动中遇到同样的问题。 数学只是第一个被推到台前的学科。它不会是最后一个。Math and AI

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章