“如果AI设计出一款能治愈癌症的药，三期临床全过，但没人讲得清原理——你会用吗？”过去24小时里，这道选择题在知乎、微博被大量用户用回答和评论的方式“投票”，它出自陶哲轩在加州理工学院的“Math2.0”公开讲座。癌症不等人，医学也从来不是非要彻底搞懂机理才给药，所以“会用”几乎是直觉答案。但看完PPT全文就会发现，陶哲轩问的从来不是病人该不该用药——他问的是，现有的检验机制能不能保证病人放心吃AI的药。知乎知乎
刷屏的“四期绝症场景”，是被转述时加上去的
网上流传的实验设定原文是：一个无法解释的“黑盒AI”设计了一款药，号称能治愈癌症，通过了三期临床试验并在数学/逻辑上自洽，但是人类完全不明白其治病机理，那人类应该使用它吗？投票之所以一边倒，是因为转述版常把病人放进绝望境地；而仔细核对PPT的讨论指出，陶哲轩明明白白说了，设定的场景是early stage of cancer（早期癌症），微博回答却把场景偷换为“四期癌症”。知乎知乎
幻灯片里更精确的追问不是冲着病人，而是冲着制度的：这款连过三期的药，AI给出的解决方案是否可能以某种方式——利用临床试验漏洞或数学模型的弱点——而发生目标错位？知乎
紧接着的一问则关乎信任本身：在注射这种药物之前，如果被告知至少有一位人类专家了解它背后的机理（即使不是完全了解），患者会不会更安心？知乎
所以，在“用不用”的框架里投票，答案永远是“用”；陶哲轩真正的问题在投票之前——这款药有没有资格走到让病人做选择的那一步。
答“会用”不是无知冲动，医学现实给它托了底
知乎话题的高赞回答里，“会用”是高频立场：出现了这种AI发明的抗癌药，不知道陶哲轩用不用，这位答主反正是要用的。这种直觉并非盲目：同一条高赞回答下获115个点赞的评论就指出，好些药的原理并不清楚但一直在用，前段时间还有一药发现治疗原理搞错了。更贴近这个思想实验的是，AI设计的抗癌药已经不是科幻：2026年8月19日，美国莫德纳与默沙东联合公布了一项Ⅲ期临床试验结果：双方使用AI辅助，合作开发的个性化mRNA黑色素瘤疫苗mRNA-4157。换句话说，医学从来不是“理解之后才行动”的学科，“有效但没人看得懂”对人类临床并不像思想实验设想的那样陌生。知乎知乎知乎
陶哲轩真正的担忧，发生在这个思想实验的上游
这场争议不是孤立事件，它有一条持续升级的前情链。当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明，将AI公司与数学界的“大战”推向高潮。陶哲轩当天在个人博客发布了声明全文，随后他牵头的人类数学协会又发表声明，呼吁数学家停止与OpenAI合作。冲突的直接诱因，是OpenAI于10月6日在GitHub上一次性放出了722篇由内部模型生成的数学手稿，涵盖372个结果系列和约4000个测试问题。中国新闻网中国新闻网36氪
让陶哲轩们更不安的是，数学界寄予厚望的“终极裁判”本身也在漏风：2026年7月，一份有AI协助、声称“证伪考拉兹猜想”的Lean形式化证明被Lean内核和独立检查器同时接受，几天后人们才发现，它利用了内核在处理嵌套归纳类型时的一个实现缺陷，让系统错误地接受了矛盾命题。思想实验里的“药”其实是AI生成证明的替身，“三期临床”是机器验证的替身：当产出结果的“人”换成了系统，人类现有的检验体系还能不能发现漏洞。36氪
这场投票该留下的不是结论，而是三个问题
陶哲轩并非“减速派”，PPT的大部分篇幅讨论的恰恰是如何让AI有用：在Math2.0的方向里，他提出利用AI寻找和强调新的原理、方法和洞察，而不是仅仅生产新的证明。对普通用户来说，这场全民投票的真正价值，是把一个很快会落到每个人头上的问题提前摆上了台面：当AI的产出持续超出个人理解能力时，“有没有人把关”将成为新的信任锚点。下一次“有效但看不懂”的AI结果出现时——无论是药物、体检报告的AI解读，还是法律意见、投资建议——比“会不会用”更值得追问的是三件事：谁验证了它，用什么方式验证，出错后谁来担责。知乎
