10月9日晚的一场加州理工《Math 2.0》公开课上，菲尔兹奖得主陶哲轩放出一页PPT：假设一个「黑盒AI」配出了抗癌药，数学模型、Lean形式化验证、三期临床全部通过，但没有任何人类说得清它是怎么找到的——你打不打这支药？接下来三天，这页PPT被搬运、改写、群嘲，最流行的反驳是：能治癌症的药故意不用，这和蓄意谋杀有什么区别？但被热搜放大成伦理之争的，并不是原PPT写的问题。陶哲轩设定的场景是一名早期癌症患者，他真正追问的是：AI会不会利用临床试验流程或数学模型的弱点，发生目标错位？对普通人来说，这场争论不必站队，但它给出了三个现成的问题：问出处、问阶段、问兜底。新智元知乎知乎
一页PPT换了设定，数学讨论变成了「患者该不该等死」
争议的起点其实是一周前。10月6日晚，OpenAI向GitHub一次性投放700多篇AI生成的数学手稿，归为约370个结果家族，顶层结果中四成多附带Lean形式化证明；发布第二天即撤回3篇、修订14篇。10月7日，成立仅两个多月、成员约800人的「人类数学协会」（AHM）发布声明，呼吁数学家停止与OpenAI合作，陶哲轩把声明转到了自己的博客——他本人并不在AHM的会员名单里。10月9日晚的这场演讲，正是这条冲突链的一部分。知乎
被广泛传播的那页幻灯片，原文信息量比热搜文案大得多：设定是「early stage of cancer」，页面写明患者刚确诊早期、先有成熟的传统方案可选；被改写成「AI发明了一种能治愈癌症的药……全世界没有一个人能看懂它的原理」之后，再升级成「和蓄意谋杀有什么区别」，一场关于科学方法论的讨论就此变成医学伦理之争。幻灯片里原本还有第二个问题：打进血管之前，如果有一位人类专家了解这种疗法的机理（哪怕不是完全了解），你会不会更安心？获赞915的那条高赞回答，正是顺着改写后的版本批评陶哲轩的——可见失真版本的传播力。微博知乎
他真正担心的事：验证通过，不等于没被钻空子
把这页PPT放回整场演讲，争议会小很多。陶哲轩是Lean证明辅助语言的重度使用者，他反对的从来不是AI做数学，而是「结果全绿」带来的信任错觉。按新智元对演讲的概括，他的区分很干脆：Lean能证明每一步推导合法，却证明不了目标有没有被钻空子。这不是空想——Bastounis等三位研究者10月6日当天发表论文指出：Lean代码编译通过，只能证明形式化陈述本身为真，不保证它与论文的自然语言主张是同一件事；他们检查OpenAI此前Navier-Stokes证明的Lean代码，发现代码实际证明的陈述比论文宣称的更弱。而在OpenAI这次批量投放的手稿里，近六成顶层结果根本没有做形式化。试验能过、证明能查，和药真的没毛病，是三个不同的问题。新智元知乎
对照现实：AI在抗癌药上，真正干到哪一步了
思想实验之外，今年确实有一次AI深度参与的抗癌进展。8月，Moderna与默沙东的个性化mRNA癌症疗法intismeran autogene联合K药（PD-1抑制剂），在全球高危黑色素瘤III期临床试验中达到两大关键生存终点，未出现新的安全信号。新智元
AI在这个疗法里的实际角色，是从患者肿瘤的上万个突变中筛选、为每人锁定最多34个最能激活免疫系统的靶点——每一步人类都看得懂；疗法机理本身也透明：mRNA教免疫系统识别癌细胞特征，而不是「说不清为什么有效」。真正值得警惕的是同一批传播里的措辞落差。这项疗法的准确定位是术后防复发，业内对其定价的估算一度高达近50万美元一针，离大规模商业化还有距离。而同日的热搜标题写的是「人类历史上第一次用AI治愈癌症」，两者并不是一回事。也有分析把落差说得很直白：之前的癌症预防疫苗是在防癌症发生，这次的癌症疫苗更接近是在防癌复发。把这几层分开——AI干了什么、药到了哪一期、宣称的终点是什么——一条AI医疗新闻就从神话降回了它本来的尺寸。知乎新智元知乎
下次再看到「AI神药」，先问这三个问题
第一问：原文说了什么？这次热搜的攻防双方，争的其实不是同一句话：原PPT问「系统有没有漏洞」，传播版本改成了「病人配不配等机理」。判断任何热点医疗概念，先找到原始幻灯片、论文或公司公告，确认主体、阶段和设定，再决定信什么、转发什么。
第二问：药到了哪一期？药物研发界有句老话：「II期带来希望，III期埋葬一切」——当AI让候选药物越产越快，这一关反而最容易被概念话术绕过。即使到了III期，还要问终点是什么：是肿瘤缩小、复发风险下降，还是生存期治愈。新智元
第三问：出了事，停不停得下来、责任找不找得到？讨论中被广泛认可的一个思路是：人们敢用看不懂的东西，靠的从来不是完全理解，而是兜底——能定位错误、能止损、能追溯责任。医疗产品的对应物是临床试验的暂停规则、上市后的不良反应监测、明确的责任主体。反过来说，任何宣传如果把这些环节换成「AI验证过，绝对安全」，本身就是炒作的警报。知乎
陶哲轩的幻灯片问「你敢不敢用黑盒药」，答案不在药能不能被看懂，而在体系里是否始终有人负责把它看懂。患者可以不在乎机理，那是因为有负责任的人在尽力搞清楚机理、确保试验可靠——黑盒不可怕，可怕的是没人管的黑盒。这既是陶哲轩给AI时代的科学共同体出的题，也是普通人辨别医疗概念炒作时最值得保留的常识。知乎
