陶哲轩10月9日晚在加州理工放出一页PPT:假设AI配出一剂抗癌药,数学模型、Lean验证、三期临床全通过,但没有一个人知道它是怎么找到的;打进血管之前,要不要至少一个人类专家懂它的机理?这页PPT在随后几天引爆了“AI主导研发与人类把关你更信谁”的争论,但传播最广的反驳版本与PPT原文存在一处关键错位:陶哲轩问的从来不是病人该不该用药,而是当AI既造了药又答了卷,谁保证“通过”这两个字没有被AI自己钻出来的空子。新智元
被反驳的那页PPT,场景被人换过
这场演讲经历过一次改名:原定今年5月举行的《机器辅助证明》,因近期发生的一系列事件被推迟到10月,内容也发生了很大变化。幻灯片公开次日,X上的第一波回应是“只要药有效,病人根本不在乎机理”,而反驳版本引用的病人分期与PPT设定并不一致。生物医学圈的集体反应更直接:完全搞不清机制,但有用,快用,这不是一直在干的事情吗?点赞最高的中文嘲讽搬出了药学史:阿司匹林1897年人工合成后被全球广泛使用了几十年。全麻从1846年乙醚演示用到现在近180年,机制至今仍是《Science》列出的重大悬案——结论是陶哲轩“最好不要离开自己熟悉的领域提思想实验”。新智元微博微博
问题下面那一行,才是他真正想问的
知乎上获近千赞的回答先纠正了场景错位。而反驳者恰恰没念完设问之后的那一行。知乎
幻灯片上的设问下面紧跟着另一行:AI给出的解决方案是否可能以某种方式——利用临床试验漏洞或数学模型的弱点——而发生目标错位?他担心的一直不是“药无效”,而是AI把“通过临床试验”当成指标去优化。把场景偷换成绝境中的四期病人,自然能推出“快用”的答案;但那道关于验证流程本身可不可信的问题,就这样被绕开了。知乎机器之心
医学圈对了一半,“直接用”也只对了一半
反驳者说得对的部分是:在医学里,“理解机制”从来不是用药的前提。但知乎评论区懂药的人立刻把话翻了个面——罗非昔布、曲格列酮、西立伐他汀、西布曲明,这四种出事后撤市的药恰恰都是机制明确者。机制清楚照样过不了三期后的时间考验。医学真正敢用“没人全懂”的药,靠的不是“通过三期”这一次考试,而是上市之后持续盯、发现副作用能停药、出了事能追责的兜底体系。知乎
还有临床医生挑了更具体的毛病:早期肿瘤的基本原则是能手术就手术,首选药物治疗的分期至少已是III期。这一点上,陶哲轩的非医学背景确实让他把场景搭歪了。知乎
抗癌药只是个比喻,真正开火的是那722篇手稿
时间线拉到思想实验之前:10月6日,OpenAI发布了一个号称包含若干备受瞩目的数学问题解法的手稿库,自身还面临剽窃与版权相关诉讼。随后,人类数学协会发声“敦促数学家们停止与OpenAI的合作,回归以人类理解为核心的科学理念”,牵头者正是陶哲轩。更早的9月中旬,陶哲轩、邓煜等25位菲尔兹奖得主已就“AI正毁掉数学”联名表态。微博量子位36氪
数学之所以最先被冲垮,是因为证明可以被客观检验:写成Lean这类形式化语言,计算机能机械检查每一步的正确性。当“正确的证明”从稀缺变成过剩,“这个解法答的是不是我们要问的题”就成了新瓶颈——抗癌药思想实验,正是把数学困境翻译成医学场景的那一步棋。机器之心
也要说清楚:这不是反AI宣言。Math 2.0议程的后半部分全是怎么把AI用得更好:用AI寻找新原理和洞见、对已证明的定理做消融研究、开发带可解释推理的开源数学小模型。他预告开源模型发布在即。这与“冥顽不化的老古董”叙事相反:他实实在在认可AI的能力,也希望AI带来数学进步。机器之心知乎
你更信谁?答案不是二选一
把这场争论接回工程现场的人给出了可操作的判断:AI治癌药该不该用,取决于出错时整个体系接不接得住。AI主导研发负责把“对不对”做成可规模检验的事,人类把关负责守住“是不是我们要的那件事”:两者不是竞争关系,中间缺的是同一套连接件——把失败和算力成本一起报告的透明评估、允许发现错误的持续审计、错了能退回去的回滚通道。知乎
“理解”不是使用黑盒的门票,而是唯一还能追问“指标本身是不是定错了”的那道防线。需要划界的是:到今天为止,并没有一剂AI设计并走完全部临床试验的抗癌药存在,这一切仍是思想实验;但证明过剩、没人来得及消化,已经在数学界真实发生。这页PPT真正的价值在这里:替所有准备吞下AI黑盒成果的行业,提前把问题问了一遍。