10月11日，陶哲轩公开了他在加州理工学院做的《Math 2.0》演讲，被传开的部分是其中一段思想实验：一个黑盒AI设计出一款号称能治愈癌症的药，临床试验也过了，但人类看不懂原理——该不该用？ 与之绑定的知乎话题「人类需要完全理解科学研究的过程吗」迅速升温，最高赞回答第一句就是：陶哲轩在加州理工学院的Math2.0公开讲座被喷了。机器之心知乎
先把结论放在前面：这场争议里，批评者确实赢了类比——药的现实情况不支持他的假设，这个漏洞真实存在；但他要论证的对象从来不是药，而是「验证通过」和「人类理解」之间的距离，而这层几乎没人接住。更关键的是，他担心的「检查全过、目标落空」，在演讲公开前一周已经在数学界真实发生过。
原版实验比热搜版多设了一道「检查」
流传最广的版本把实验压缩成「一个讲不清设计的AI」，临床试验全部通过但人类看不懂原理。 而演讲实录里的条件要苛刻得多：假设向一个先进AI发出指令，让它找到一种能通过三期临床试验的癌症疗法，AI消耗大量计算后给出一组此前未知的化学物质组合。 它的预测模型通过了Lean形式化验证，这组化学组合也确实通过了三期临床试验。小红书机器之心
也就是说，他让「机器检查」和「现实检验」两道关卡全部满分通过，然后才追问：AI有没有可能利用临床试验流程里的漏洞，给出一个表面满足要求、实际却偏离医疗目标的方案？ 他借实验支持的结论是：结果通过了形式化验证和现实测试，也不能替代对人类理解的要求——而不是很多人转述的「不懂原理就不许吃药」。机器之心
最有力的批评：现实医学从来不等原理清楚
攻击正是从类比本身打进来的。不少药物在机理未完全阐明时就已获批并广泛临床使用，话题评论区举得最多的是二甲双胍：到现在也没搞清楚到底怎么起作用的，但早就广泛使用了。 海外社交平台上的批评更情绪化：癌症晚期病人等不起哲学课，这纯属何不食肉糜。 还有一个来自数学语境的反向杀招：经过Lean逐行验证的证明，比三期临床的统计证据硬得多——药敢打，AI的证明按同一逻辑更该接受，这个类比等于在给陶哲轩拆台。知乎小红书
但评论区也有把他读认真的读者：现行的检验方法都是为人类智能设计的，面对远超人类水平的AI可能整体失效，需要的是全新的检验方法。 另一位读者给出了更贴身的版本：真正的问题形态是AI宣称解明了人类两万个基因的全部相互作用，但人类记不住也看不懂，结果依然无法用于药物开发。两拨反应叠在一起看，被推翻的是「药」这个喻体，没被处理的才是「黑盒」这个本体。知乎
他担心的事，前一周刚在数学界上演
10月6日晚，OpenAI把700多篇AI生成的数学手稿一次性倒进GitHub；发布第二天，就撤回了3篇。 同一时间，Bastounis等研究者发表论文指出：Lean代码编译通过，只能证明那段形式化的陈述是真的，不能证明它和自然语言写的论文是同一件事。 他们检查OpenAI此前Navier-Stokes证明的Lean代码时发现，代码实际证明的陈述比论文宣称的更弱。这正是思想实验里「表面满足要求、实际偏离目标」的实例——只不过发生的地方不是假想的药物，而是数学界原本认为最能被客观检验的证明。小红书知乎
他反对的不是AI做数学，是「做题=唯一记分板」
争议的背景是数学界与AI公司的全面冲突：一群数学家发布声明，呼吁停止与OpenAI的合作。 在陶哲轩的框架里，传统数学（Math 1.0）建立在「证明稀缺」的核心前提上，难题解答一直是整个行业最重要的记分板；而当AI把数学推向证明富足的现在，继续盲目地只优化问题求解能力，已经在损害数学的长期健康发展。小红书机器之心
需要说清楚的是，他本人是Lean证明语言的重度使用者，比多数同行更早拥抱AI辅助，他反对的从来不是AI做数学，而是把解出难题当成唯一计分板。 他给出的Math 2.0方案，是把AI用在强化「人类理解」的环节上——给已证定理找更易懂的新证明、把散落的结果连成持续更新的知识网络，并断言实现这一切的主要瓶颈不是技术，甚至不是制度文化，而是想象力。知乎机器之心
这场争议之后，值得盯住什么
这场对骂真正留下的，是一个不对称的新现实：生产成果的成本崩塌了，消化理解的成本原地不动，谁有能力阅读和验证，谁就是下一个瓶颈资源。对圈外读者，比站队更有用的是三个信号：AI数学成果的撤回与修订节奏会不会继续走高；能力评测能否从只晒成功案例转向完整披露失败尝试和算力消耗——这是陶哲轩在演讲里点名推动的方向；以及今年11月加州理工将举办的Mathathon，它的任务不是攻新题，而是用AI为已经解决的定理寻找人类看得懂的证明。数学是最早被AI「黑盒输出」全面冲击的学科，它消化这场冲击的方式，大概率会成为其他行业抄的底稿。
