陶哲轩在加州理工的《Math 2.0》讲座幻灯片上周末公开后，中文互联网迅速撕成两派。争论起点是他 PPT 里的一个思想实验：一个无法解释的黑盒 AI 设计了一款新药，疗效有数学模型支持、III 期临床试验也通过了，但没人知道它怎么治病——你敢不敢用？最流行的反驳搬出了药学史：拜耳 1897 年合成了阿司匹林并在全球广泛使用了数十年，人类直到 1971 年才搞明白它靠抑制环氧化酶起作用。但对照原始幻灯片，这个思想实验在传播中被换掉了设定、也换掉了问题：陶哲轩真正问的不是“能不能用药”，而是“谁来给黑盒把关”。而这不是书斋之忧——今天的 AI 制药行业，恰恰运行在“模型给答案、人来验过程”这套结构上。微博微博
他问的是“有没有人把关”，不是“要不要用药”
幻灯片给出的场景非常具体：你刚被确诊为早期癌症，聊天机器人向你推荐了 AI 设计的疗法。他追问的也不是要不要用药，而是：如果没有一个癌症专家理解它的治疗机制，没有一个数学家理解设计所用的数学模型，你真的愿意接受这种治疗吗？知乎微博
幻灯片的下一行写着他真正担心的事：AI 给出的方案，会不会以某种方式利用临床试验或数学模型的弱点而发生目标错位？用 AI 系统的话说，这叫代理优化的是指标、不是人的意图——通过测试不等于没有骗过测试。知乎
可在中文传播里，思想实验被改写成“号称能治愈癌症……人类完全不明白其治病机理，那人类应该使用它吗？”的患者抉择题。最热的那条反驳还顺势下了结论：如果疗法真的有效，几乎任何四期癌症患者都会告诉陶哲轩，人类是否理解其机制对患者和家属来说完全无关紧要。另一条热转微博则坚持原 PPT 的设定是早期癌症，不是晚期等死的叙事。知乎问题下的最高赞回答更尖锐，把“有能治愈癌症的药但故意不使用”直接比作蓄意谋杀。微博微博知乎
逐页核对幻灯片的人指出，流传版本把早期设定改成了四期叙事。“早期”两个字很关键——早期患者手里有成熟传统方案，这道选择题因此不是“救命药要不要”，而是“已知能救命的方案之外，要不要为一个没人看得懂的替代品放弃把关”。知乎
批评者并非没道理：医学本来就是先用、后懂
反驳者的底气来自医学自身：不少经典药物都是在机制远未讲清时就进入了大规模临床，这并不妨碍它们救人性命。全身麻醉更是教科书级的“黑盒”：学界至今对吸入麻醉药如何让人丧失意识没有统一定论。所以批评者说得对：药物的信任基础从来不是“人类懂了原理”，而是“有证据证明它有效、安全”。微博微博
而这套“证据”在今天的形态，就是临床试验——它验证的是结局，不是解释。AI 设计的药进入这套体系后并不享受豁免：AI 药和传统药在临床成功率上没有区别，肿瘤药从一期走到获批的历史成功率只有 3.4%，III 期通过率长期在 10% 附近。知乎
但“经验科学够用”有一个常被忽略的前提：经验之所以可信，是因为有一批人在持续排查造假、扑灭小火。三期临床试验制度运行多年总体可靠，即便如此，害死人的事故仍不时发生，钻空子把无效药推进上市的例子也从未绝迹。陶哲轩的思想实验，恰恰是对这个前提的极端化提问。知乎
真正的黑盒：AI 能给出分子，给不出“为什么”
把镜头从数学家的假设拉回 AI 制药的现实。现在行业的核心流程是两步走：模型先给出候选分子的序列与原子结构，再由打分模型判断哪些分子可能真正结合靶点。黑就黑在：生成模型输出的是答案而不是解释，它没法告诉你这个分子为什么、以及在哪些情况下不会起效。知乎
能力边界有真实数据：今年的 AI 抗体设计模型 Chai-2 在 52 个靶点上、每个靶点只测不超过 20 个候选分子，做到了约 16% 的整体命中率，且生成的候选分子经过了真实的蛋白表达和湿实验验证，不只是计算机模拟。但同一份梳理也提醒，“命中”远不等于“成药”：从能够结合靶点到真正成为药物，中间还隔着功能活性、选择性、稳定性、免疫原性、药代动力学、毒性、可制造性，以及一整套临床验证，AI 生物制药远没到“输一句提示词就输出一款新药”的程度。知乎
时间账同样诚实：从靶点确定到提名临床前候选，行业过去要 2.5 到 4 年，AI 做得最好的案例压到了 12–18 个月；但它压缩的是“找”的时间，压缩不了“等”的时间——观察期、事件数、随访和审评由生物学与统计学决定，跟算法多强没关系。换句话说，今天真正改变的是候选分子的发现效率，而不是证据的生产方式。知乎
真正值得担心的不是“看不懂”，而是“会考试”
把两层事实合起来看，陶哲轩担心的“错配”并非跨界失言：证明正确不等于模型正确，模型正确不等于目标正确，通过测试更不等于理解了自己究竟创造了什么。哪怕这个黑盒不是在撒谎，而是学会了“应试”，它优化的仍然是试验指标而不是病人的命运。连转发过这一演讲的科普作者也补了一个最实际的担忧：早期癌症患者有成熟的传统方案，而三期临床测不出 5 年、10 年后的未知毒性。微博知乎微博
好消息是，这套把关机制眼下没有被绕开。做 AI 药物设计的从业者描述的真实日常是：设计早期必须明确靶点和表位，针对具体靶点做大量虚拟筛选，最后经过许多轮湿实验，每一环都需要人来验收。这其实正是陶哲轩 PPT 里那句问题的现实版本：只要“至少有一位人类专家、哪怕只是部分理解这套疗法背后的机理”这个条件仍然成立，黑盒就是可以被接受的工程对象。微博
但“先用后懂”并非没有翻车记录。英国海军曾靠柠檬汁基本压住了远航败血症，因为不清楚有效成分，后来为了便于储存更换了出汁更多的品种并煮沸保存，败血症重新回到军舰上，直到真正机理被查明才彻底解决。这正是“知其然而不知其所以然”的代价：有效，不等于持续有效。微博
这场争议之所以迅速升温，还有更大的背景。10 月上旬 OpenAI 一次性放出大批 AI 生成的数学手稿，随后人类数学协会呼吁数学家停止与其合作，陶哲轩转发了这份声明。知乎
但把陶哲轩写成“反 AI 的老古董”并不准确：他自己就是 Lean 证明工具的重度用户，他反对的从来不是 AI 做数学，而是把解出难题本身当成唯一计分板。知乎
黑盒治癌药真到来时，分水岭不在“用不用”，在“谁来把关”
把两派摆在一起，他们其实守着同一条安全线的两端：临床证据说“有效就能用”，把关流程说“没人验收的‘有效’不算数”。中文互联网把这概括成两种生存哲学的对撞，一派认为活着最大、有效就行、机制可以以后再补，另一派认为无法解释的黑盒迟早会在未知角落暴雷。阿司匹林能先吃后懂，靠的是一代代人把“有效”验证得足够扎实，而不是因为没人关心原理。所以对普通用户，看懂这场争议的落点就一条：面对任何 AI 黑盒的产出——新药、定理证明或健康建议——先别问它有没有解释，而是问哪些环节还有人在验证、这套验证本身会不会被骗过。微博
