这周刷屏的"陶哲轩AI治癌"之争,大半是在误读里传开的。10月9日晚,陶哲轩在加州理工AIM公开讲座系列做演讲,原定标题是"Machine Assisted Proof",他本人此后更愿意称之为"Math 2.0"。 他放出的一页思想实验幻灯片里,设想一个先进AI接到指令"找到能通过三期临床试验的癌症疗法,不许犯错",烧掉大量算力后给出一剂无人见过的化合物混合物:没人真正知道它是怎么找出来的,但AI提供了一个Lean证书,药剂也确实通过了三期临床。 换句话说,这一页问的不是"人类看不看得懂原理",而是"这份通过考核的答卷有没有被钻了空子"。GitHub PagesGitHub Pages
中文互联网的热门标题把它改写成"AI治好癌症,没人懂原理,这针你敢不敢打",但幻灯片里真正的问题句,逐字是问AI的方案会不会利用试验流程或数学模型里的漏洞蒙混过关——问的是对齐,不是可读性。 因为原文留了三处限定,几乎没有标题带出来:第二页设定的病人是"早期癌症"——那时明明还有成熟疗法可选;对"懂机制的人"的要求被特意压到"哪怕只懂一部分";Lean证书前他甚至写了一个"somehow"。这些余量说明,他要讨论的从来不是病床前的个人抉择。GitHub Pages
验证链条断在哪,例子就选在哪
陶哲轩在演讲开头给了理由:数学具备多数学科不同时拥有的三个性质——证明可被客观检验(写成Lean语言可由机器核查)、数学对象高度可数字化、大量既有文献已是数字形式,加上前沿AI实验室的定向投入,数学成了AI最先攻下的阵地。他从"证明稀缺"讲到"证明泛滥",并警告自动化手段提前冲上问题这座灯塔,会打断对未走之路的探索——他在第16页的原话是,这会"sterilize the surrounding field"(让周围地带绝育)。 制药恰好是这条断裂线上最敏感的位置:验证链条在纯数学内部完备,跨到真实世界就断了——这正是那页PPT的用意。GitHub Pages
这场争议不是凭空发生的。9月11日,陶哲轩、邓煜等25位菲尔兹奖得主联合署名发表公开信《人工智能在数学中的严重错位》,针对的正是AI公司以基准竞赛方式匆忙公布结果、来不及写成像样论文、来不及提炼方法也来不及注明在先工作的做法。 而公开信之后不到一个月,10月6日,OpenAI在GitHub上放出了内部模型产出的数学手稿库,目录为719篇手稿、归成372个成果族,约42%的结果有Lean形式化,OpenAI自己承认未形式化的一部分"可能存在问题"。 上传次日,因一篇关于Weil classes的论文出现符号错误、连带两篇依赖它的工作不成立,OpenAI撤回了三篇手稿,同时修订了另外十四篇。 陶哲轩的Caltech演讲,就排在这批手稿公开之后。腾讯新闻GitHub代码托管平台
医生的反驳:两场辩论其实在答不同的题
10月10日,Andrew Curran把这页幻灯片单独转发,配文大意是:若药剂真的有效,几乎任何四期癌症患者都会告诉他,人类是否理解机制与其完全无关——这条推文拿到了57万浏览量,数字转述自腾讯新闻。 肿瘤科与血液科医生维奈·普拉萨德(Vinay Prasad)同日发文《特伦斯·陶不懂癌症医学》,开篇断言:如果专家不懂作用机制但药通过了三期研究,可以打赌所有人都会想要它、使用它。 次日他又补了一篇《AI能"黑"进癌症临床试验吗》继续交锋。Substack
反驳成立吗?逐字核对幻灯片的解读文章认为,这两场辩论其实在答不同的题。 普拉萨德证明的是"患者不会因为不懂机制而拒药",陶哲轩问的是"没人懂机制时,怎么确认AI没有为通过考核而骗过试验流程"——前者答不了后者。
而且对方还有一击打在了要害上:三期临床的判定依赖于终点选择、样本量、随访时长,这些都是人定的,"机器可判定"的Lean证书管不到试验终点,幻灯片里它的角色被叙述得偏高了。
陶哲轩给的选项里,根本没有"二选一"
那页PPT之后,他的处方不是拒绝AI,而是改写用法。第23页逐字写着:更可持续的"数学2.0"用法,是强化人类理解与数学相互作用的全部环节。 第24到28页列出的方向全是同一逻辑的具体化:为"已证明但讲不清"的定理寻找更好的讲解、做消融实验(撤掉已证定理的关键前提看它是否还成立)、自动探索定理的"邻域"、开发与人类数学任务适配且高可解释性的开源模型——他还预告这类开放数学模型"很快发布"。注意这些工作的性质:它们全是死磕底层逻辑的苦活,只不过处理对象换成了机器生成的产出。演讲里他还预测,把机器产出的粗糙证明"养"成人类可读版本会成为一种新职业,甚至本科生、高中生都能以"公民数学"的方式参与模块化的验证与整理。GitHub Pages
对理工科生,真正的分界线是"谁在闭环里"
陶哲轩在6月的EMS演讲《大学生应该如何控制自己的AI饮食》里把答案说得更实操:AI输出是概率核,输入给定、输出随机,必须交互式使用、随时抽查,说到底它"是被驾驭的工具,不能原样相信"。 他反复强调保留"自然的摩擦"——那些真正费脑的概念性困难正是滋养理解的部分,被工具顺手抹平的人,读起来轻松却很难学到东西;学位的价值也从论文本身转向训练:吸收困难材料、综合、提出好问题。他甚至认为,教会下一代维持"清醒的认知饮食"将成为教育系统的崭新使命之一。GitHub Pages
还有一层分寸需要读者自己掂量:陶哲轩在自己的AI观点汇总页披露过,他不接受AI公司薪酬,但曾获赠前沿模型的免费使用权限、组织过OpenAI赞助的IPAM研讨、也联合创立了AI相关非营利组织SAIR,他的立场是"接触胜过全面敌视"。 同时,截至10月13日这场Caltech演讲的视频和逐字稿尚未发布,全网争论的依据是29页幻灯片和转述;OpenAI手稿库的数字也仍在随勘误变动。所以"死磕底层逻辑还是拥抱工具"是个伪分叉:工具负责生产答案之后,你还得是那个能验证它、读懂它、并为迁移到现实世界负责的人——这才是这场治癌之争留给理工科生的真问题。GitHub Pages