数学家陶哲轩呼吁放缓AI发展,与科技圈主流观点有何不同?

源自216位全网作者

11:56

数学家陶哲轩把"放缓AI"重新放回舆论场,并且引发了比几个月前科技公司那次"放缓"更激烈的争论——因为这两句同样的话,说的根本不是一件事。科技圈的"放缓"争论围绕前沿模型的迭代速度,掺着安全、竞争和动机,长期被当作"学霸说自己回家不学习";陶哲轩要放缓的,是把数学当成AI跑分榜、批量产出答案、再把理解负担甩给科学界的那种生产方式。他不反对用AI——他从2023年起就在研究中使用OpenAI的模型,用于辅助计算、编写代码和检索文献。他反对的是"为了AI而用数学"。量子位

引爆点是10月6日:OpenAI一次性公布了722篇AI生成的数学手稿(归为372组结果,后撤回3篇)。而在此前的9月11日,陶哲轩已与邓煜、舒尔茨等24位菲尔兹奖得主联合发布声明《AI在数学中的严重错位》,直指AI巨头把求解数学问题当基准测试推进的做法在伤害数学研究与数学界生态。手稿发布三天后,他在个人博客全文转发"人类数学协会"(AHM)的公开声明,呼吁全球数学家暂停与OpenAI合作。"必须放缓AI"随即冲上热搜。每日经济新闻微博36氪

而在10月15日的Numberphile访谈里,他说这批三百来项结果,自己只读了大约10篇。这几乎是他所有焦虑的浓缩:生成早已不是瓶颈,读、看懂、负责才是。知乎

他要放缓的不是速度,是打法

陶哲轩的批评集中在三层,每一层都指向"答案先行、理解滞后"。

第一层是验证负担。这批手稿缺少规范引用、部分论证黑盒晦涩,AHM声明把它定性为"商业机构的算力秀":公司宣布任务完成,学界的善后才开始,核验、解释的压力被无偿转嫁给数学家。他此前对《纽约时报》说,纳维–斯托克斯方程那篇文章技术上可以读,但"自己接触过的专家没有人真正理解了整套论证"。微博量子位

第二层是年轻人的训练场。面对《纽约时报》的采访,他说自己如今大部分时间在协调数学界的应对、而不是做数学,并把这场变化称作一种"战争状态"。他的逻辑很直白:一道题被机器先解出来,就像电影被剧透,研究者无法恢复原先探索未知的状态;原本留给学生练手的初级课题被批量清空,数年心血可能一夜过时。他形容那种发布方式像"炸鱼",也曾把这批成果称作"有毒废物"——现在他改口为"或许经过处理的废物",措辞松动,但立场没有。量子位

第三层是学科目标本身。他说OpenAI把数学研究用来检验模型能力——“他们利用数学来满足自己的需要,也就是评估他们的模型”——并感叹数学的"浪漫时代、英雄时代"结束了:以前证明来之不易,证明出来,理解也跟着来了;现在证明多到淹没人,理解却没跟上。他打的比方是合成食品:能吃,但不让人满足。他也把边界说得很克制:在数学里问题也许还不算大,但同样的做法拿去模拟天气、管电网,迟早会出事。知乎

值得注意的还有他的身份反转:陶哲轩曾是"AI赋能科学家"愿景的参与推动者,2025年UCLA经费被冻结期间,他接受过OpenAI对研究所研讨会数万美元的赞助,甚至同意对方剪辑自己的采访素材;那段一小时的视频访谈最终被剪成一分钟、配上欢快音乐用作宣传,他事后承认自己当时应该更坚决地反对。从合作者到批评者,他的结论是"到了这个阶段,我看不到建设性参与的途径"。量子位

科技圈的三种主流态度,都和他错位

回看今年9月中旬,奥尔特曼、阿莫代伊等头部模型公司负责人曾罕见联手呼吁放缓先进大模型迭代,“放缓开发"一时成为科技圈热词。但这是另一种"放缓”:针对的是前沿能力迭代快过安全研究的节奏,而且它的可信度被普遍打折扣——网传解读里,“Anthropic在给IPO造势,OpenAI在给推迟上市找借口”。据外媒报道,美国副总统万斯更讥讽前沿公司跑去找政府求监管"有点像特洛伊木马";而呼吁发布后,各家产品迭代并未停步。每日经济新闻微博新浪微博

与它相对的是加速主义的主流底色。一种流传很广的判断是:放缓开发就等于被淘汰,科技公司不比传统行业,高速发展落后一点就是致命。9月14日,前OpenAI后训练负责人公开回怼陶哲轩:说AI毁了数学,可能还是太小瞧AI了。这种态度的底层是一套"工业革命论":在他们看来,牛顿爱因斯坦来了也反对不了产业革命,历史的火车呼啸而来,与其下车不如买票上车——学科阵痛被视为进步的必然代价。微博36氪知乎

第三种声音来自AI公司内部,与陶哲轩表面最接近、实质仍不同:Anthropic在10月15日的工程博客里专设一节承认,人的时间和注意力是稀缺资源,非技术岗员工光是读完AI交付的内容,估算就要占掉半个工作周以上——这是按阅读速度折算的估计值,不是计时结果。这其实印证了"只读了10篇"指出的瓶颈——AI生成已经不是瓶颈,人读得过来、看得懂、愿意签字才是。但在Anthropic的框架里这是工程效率问题,在陶哲轩那里是科学存续问题。知乎

一个是"要不要给能力速度踩刹车",一个是"要不要换掉把科学当赛道的玩法";一边是被质疑动机的利益相关者,一边是没有商业利益、知识却被当作免费矿石开采的学科代言人——同一个"放缓",两边的分量完全不同。

这场争论还留着哪些没解开的结

陶哲轩的立场并非没有反驳。他在加州理工"Math 2.0"讲座上提出了一个思想实验:一个无法解释的黑盒AI设计了一款药,号称能治愈癌症、通过了三期临床试验,但人类完全不明白其治病机理,该不该用?这个问题被生物医学背景的用户普遍质疑:阿司匹林在机制不明的情况下被用了近百年,"先理解再使用"从来不是实验科学的通行规则。他的回应重点其实不在用不用答案,而在当答案来得太快、太不可读,谁负责把它变成理解——那份讲座幻灯片里写得很直白:强大的优化能力,加上人类的理解不足,等于目标错配风险。知乎知乎

更硬的边界是证据本身:这719篇手稿里,好结果和坏结果各占多少,连陶哲轩都说"还不知道";纳维–斯托克斯相关论证尚未被学界消化;OpenAI方面的回应则停留在"重视与数学界的合作,并将继续听取社区反馈"。此外,9月纽约大学数学家巴克马斯特公开质疑OpenAI在纳维–斯托克斯问题上"截胡"其团队进展的争议,也尚无定论。所以这不是一场"AI该不该发展"的表决,而是一次规则谈判的开端:放缓呼吁能否兑现,取决于下一批发布是否事先与学界沟通、是否附上能被读懂和核验的推导、是否给年轻研究者留出训练空间。量子位每日经济新闻

对普通用户,这场顶级学界与产业界的交锋留下一个马上可用的判断标准:AI交给你的任何成果,在你签自己名字之前,你真的读完了吗。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章