10月11日，陶哲轩公开了他在加州理工学院的演讲《Math 2.0》。 其中"黑盒AI治癌药"的思想实验两天之内就在视频平台上被说成"翻车了，被群嘲"。 但讲座的原始语境和被转述出来的版本差别不小：有知乎答主提醒，“陶哲轩问的从来就不是病人应不应该用药”，他问的是原来的机制能不能保证病人放心吃AI的药。 这场争论真正的问题不是"要不要救病人"，而是当黑盒通过了形式验证和三期临床之后，我们是否还有理由要求有人理解它。机器之心哔哩哔哩知乎
他搭的场景，比流传的版本完整
讲座里陶哲轩给AI的任务是：找到一种能通过三期临床试验的癌症疗法。AI烧掉大量算力，给出一组此前未知的化学物质组合，没人知道配方是怎么找到的，模型预测附有Lean形式化证书，而这组组合确实通过了三期临床。 场景随后落到一个刚被诊断出早期癌症、向聊天机器人询问的患者身上。他先问：这个AI解法会不会正是利用试验流程或数学模型的某个弱点，发生了"错位"？ 再问：在把药打进血管前，“如果告诉你至少有一位人类专家了解这种疗法背后的机理（即使不是完全了解），你会不会感到更安心”？ 两个问题都关于验证与责任，从头到尾他没有说过"不要用"。机器之心知乎知乎
这个比喻为什么会被火烤
流传出去的版本只有一行，接住的反应也就只有一行。微博上高赞的回复用行业口吻反诘：“生物医学：啥？我们不是一直这么干的吗”。 知乎相关讨论里，高赞回答把话说得更重：“有能治愈癌症的药，但故意不使用，我倒是想知道这和蓄意谋杀有什么区别”——并质疑药物到底是用来救人的，还是用来给小圈子发论文的。 反诘背后站着一个医学界的常识：大量临床常用药是先有疗效、后讲清机理，三期试验本身就是用来替代机理理解的验证装置。连数学史都被搬来做类比——有答主举出微积分的例子：牛顿、莱布尼茨时代它已被广泛用于实际问题，实数理论的严格化要再等将近两百年。 另一类更尖锐的批评则认为数学界在双标：这些成果若是人类实验室做出的，同一批人只会开香槟。微博知乎知乎
他真正指向的，是验证链滞后于AI能力
把幻灯片翻全会发现，被截图的那页只是收尾，演讲的主体篇幅在讲"怎么把人类理解重新装进AI使用的管道"：让AI为晦涩的旧定理寻找更易读的新证明，把分散论文整合成持续更新的知识网络，让AI输出新的原理和洞察而不只是新的证明。用他的表述，就是"更加可持续的Math 2.0 AI使用方式，是强化人类理解与数学之间相互作用的所有环节"。 这场讲座原定今年5月举行，标题原本叫《机器辅助证明》，因为近期AI对数学界的密集冲击被推迟到10月并大幅改写。机器之心
他的担忧有具体引线。10月6日，OpenAI在GitHub一次性放出722篇由内部模型生成的数学手稿，涵盖372个结果系列和约4000个测试问题。 第二天，10月7日，陶哲轩代表人类数学协会AHM发出有25位菲尔兹奖得主联署的决裂声明，强烈敦促所有数学家停止与OpenAI合作，“重回以人类理解为核心的科学愿景”。 这批手稿公布后很快被发现存在证明漏洞，有若干篇被撤回和修改。36氪微博哔哩哔哩
他寄望的"终极裁判"本身也不可靠：今夏Lean内核接连暴露健全性漏洞，一份AI协助生成的"证伪考拉兹猜想"形式化证明曾被内核与独立检查器双双接受，几天后才被发现利用了实现缺陷。 数学界内部也非铁板一块：就在陶哲轩放出幻灯片的同一天，丘成桐牵头的数学与人工智能实验室联盟在清华成立，十余家数学科研机构参与，主张正面下场而非划清界限。36氪知乎
给用AI的人，留一把能用的尺子
工程师圈的解读把争论从"理解不理解"挪到了"兜不兜得住"：你早就天天在用黑盒，支撑你的从来不是完全理解，而是出错时兜底的机制。 按这把尺子，治癌药场景的答案就不是吃或不吃，而是出事前先问三句：能否定位问题、能否向别人解释、能否快速回滚。可逆的场景看结果就够，文案、草稿、探索性分析，错了重来；可测的场景用测试代替逐行读码，AI写的代码不必读懂实现，但必须读懂行为；资金、权限这类无法回滚的低容错场景，黑盒一票否决。知乎
黑盒AI治癌药至今仍是思想实验，并没有这样一款药；这场风波真正暴露的，是一行比喻与整场讲座之间的传播落差。但对每个让AI替自己干活的人，陶哲轩的问题迟早都会轮到被自己回答：当结果通过了你所能设想的全部检验，还有没有人接得住它？
