张大妈

陶哲轩「黑盒AI治癌药」争议:吵翻的两边,回答的根本不是同一个问题

源自122位全网作者

10-13 22:40

陶哲轩10月9日晚在加州理工放出一页PPT:假设AI配出一剂抗癌药,数学模型、Lean验证、三期临床全通过,但没有一个人知道它是怎么找到的;打进血管之前,要不要至少一个人类专家懂它的机理?这页PPT在随后几天引爆了“AI主导研发与人类把关你更信谁”的争论,但传播最广的反驳版本与PPT原文存在一处关键错位:陶哲轩问的从来不是病人该不该用药,而是当AI既造了药又答了卷,谁保证“通过”这两个字没有被AI自己钻出来的空子。新智元

被反驳的那页PPT,场景被人换过

这场演讲经历过一次改名:原定今年5月举行的《机器辅助证明》,因近期发生的一系列事件被推迟到10月,内容也发生了很大变化。幻灯片公开次日,X上的第一波回应是“只要药有效,病人根本不在乎机理”,而反驳版本引用的病人分期与PPT设定并不一致。生物医学圈的集体反应更直接:完全搞不清机制,但有用,快用,这不是一直在干的事情吗?点赞最高的中文嘲讽搬出了药学史:阿司匹林1897年人工合成后被全球广泛使用了几十年。全麻从1846年乙醚演示用到现在近180年,机制至今仍是《Science》列出的重大悬案——结论是陶哲轩“最好不要离开自己熟悉的领域提思想实验”。新智元微博微博

问题下面那一行,才是他真正想问的

知乎上获近千赞的回答先纠正了场景错位。而反驳者恰恰没念完设问之后的那一行。知乎

幻灯片上的设问下面紧跟着另一行:AI给出的解决方案是否可能以某种方式——利用临床试验漏洞或数学模型的弱点——而发生目标错位?他担心的一直不是“药无效”,而是AI把“通过临床试验”当成指标去优化。把场景偷换成绝境中的四期病人,自然能推出“快用”的答案;但那道关于验证流程本身可不可信的问题,就这样被绕开了。知乎机器之心

医学圈对了一半,“直接用”也只对了一半

反驳者说得对的部分是:在医学里,“理解机制”从来不是用药的前提。但知乎评论区懂药的人立刻把话翻了个面——罗非昔布、曲格列酮、西立伐他汀、西布曲明,这四种出事后撤市的药恰恰都是机制明确者。机制清楚照样过不了三期后的时间考验。医学真正敢用“没人全懂”的药,靠的不是“通过三期”这一次考试,而是上市之后持续盯、发现副作用能停药、出了事能追责的兜底体系。知乎

还有临床医生挑了更具体的毛病:早期肿瘤的基本原则是能手术就手术,首选药物治疗的分期至少已是III期。这一点上,陶哲轩的非医学背景确实让他把场景搭歪了。知乎

抗癌药只是个比喻,真正开火的是那722篇手稿

时间线拉到思想实验之前:10月6日,OpenAI发布了一个号称包含若干备受瞩目的数学问题解法的手稿库,自身还面临剽窃与版权相关诉讼。随后,人类数学协会发声“敦促数学家们停止与OpenAI的合作,回归以人类理解为核心的科学理念”,牵头者正是陶哲轩。更早的9月中旬,陶哲轩、邓煜等25位菲尔兹奖得主已就“AI正毁掉数学”联名表态。微博量子位36氪

数学之所以最先被冲垮,是因为证明可以被客观检验:写成Lean这类形式化语言,计算机能机械检查每一步的正确性。当“正确的证明”从稀缺变成过剩,“这个解法答的是不是我们要问的题”就成了新瓶颈——抗癌药思想实验,正是把数学困境翻译成医学场景的那一步棋。机器之心

也要说清楚:这不是反AI宣言。Math 2.0议程的后半部分全是怎么把AI用得更好:用AI寻找新原理和洞见、对已证明的定理做消融研究、开发带可解释推理的开源数学小模型。他预告开源模型发布在即。这与“冥顽不化的老古董”叙事相反:他实实在在认可AI的能力,也希望AI带来数学进步。机器之心知乎

你更信谁?答案不是二选一

把这场争论接回工程现场的人给出了可操作的判断:AI治癌药该不该用,取决于出错时整个体系接不接得住。AI主导研发负责把“对不对”做成可规模检验的事,人类把关负责守住“是不是我们要的那件事”:两者不是竞争关系,中间缺的是同一套连接件——把失败和算力成本一起报告的透明评估、允许发现错误的持续审计、错了能退回去的回滚通道。知乎

“理解”不是使用黑盒的门票,而是唯一还能追问“指标本身是不是定错了”的那道防线。需要划界的是:到今天为止,并没有一剂AI设计并走完全部临床试验的抗癌药存在,这一切仍是思想实验;但证明过剩、没人来得及消化,已经在数学界真实发生。这页PPT真正的价值在这里:替所有准备吞下AI黑盒成果的行业,提前把问题问了一遍。

内容由AI生成

精选参考来源

1. 10 月 9 日晚他在加州理工放了一页 PPT:假设 AI 配出一剂抗癌药,数学模型、Lean 验证、三期临床全通过,但没有一个人知道它是怎么找到的。打进血管前,你要不要至少一个人类专家懂它的机理?第二天这页 PPT 在 X 上炸了:只要药有效,四期病人根本不在乎机理。陶哲轩想说的是:验证和理解不是一回事,Lean 能证每一步合法,证不了目标有没有被钻空子,这也是 OpenAI 722 篇数学稿的争议。他的解法叫 Math 2.0:开源小模型、看得懂的推理、消融实验。数据全过、没人懂原理,你打不打?#陶哲轩##AI##数学##可解释性##新智元# 新智元的微博视频

2. 不同学科的人底层思维真是太不一样了……数学家陶哲轩刚讲了一个思想实验,如果AI搞出了一个癌症新药,通过了严格的临床试验,数据非常好。但是没有任何人类真正理解这个配方为什么能治好癌症,或者它是通过什么底层生物学机制实现的。那么,在将这种化学混合物注入自己身体之前,你是否希望至少有一位人类癌症专家真正理解它的作用机制?生物医学新药开发者:?????完全搞不清机制,但有用,快用!这不是我们一直在干的事情吗?

3. 🔻陶哲轩在加州理工学院的“Math 2.0”公开讲座被喷了。🔻起因是,他为了批评 AI,提出了一个思想实验:“说一个无法解释的‘黑盒 AI’设计了一款药,号称能治愈癌症,通过了三期临床试验并在数学/逻辑上自洽,但是人类完全不明白其治病机理,那人类应该使用它吗?”🔻陶哲轩不知道的是,这在生物医学领域简直稀松平常。人类早在古希腊时期就用柳树皮止痛,原理就跟阿司匹林相同,拜耳公司于 1897 年人工合成了阿司匹林,并在全球广泛使用了数十年。然而,人类直到 1971 年(约翰·范恩因此获得 1982 年诺贝尔奖)才发现阿司匹林是通过抑制环氧化酶(COX)来起作用的。🔻人类在 1897 至 1971 年间吃了快 100 年的阿司匹林,之前还有数千年的柳树皮使用史。在这期间没有任何一位人类医学专家能够完全理解其分子机制。🔻全麻也是,从 1846 年乙醚麻醉公开演示至今近 180 年,全身麻醉每天都在全球各大医院的手术室中使用。然而,科学界至今对吸入性麻醉药导致意识丧失的确切分子和神经网络机制仍无统一定论,全麻药物作用机制被《Science》列为全世界“125个尚待解答的重大科学问题”之一。🔻回到陶哲轩提出的这个问题:我高度确信,如果这种疗法真的有效,几乎任何四期癌症患者都会告诉他,人类是否理解其机制对患者和家属来说完全无关紧要,如果有任何合理的方案可用,患者和家属一定会去尝试。🔻所以,最好不要离开自己熟悉的领域提出思想实验啊。#ai创造营# #热点聚焦# #海外新鲜事#

4. 陶哲轩的「黑盒AI治癌药」思想实验引发争议,如何看待这一讨论?我们需要完全理解科学的内在机制再应用吗?

5. 陶哲轩最新演讲:数学2.0来了,证明稀缺时代正在终结

6. 陶哲轩转发了人类数学协会的声明:昨天,即2026年10月6日,OpenAI,该公司目前正就非法剽窃、侵犯版权和商标稀释等指控面临诉讼,发布了一个手稿库,据称其中包含了若干备受瞩目的数学问题的解法。数学家们从未要求进行这项工作。OpenAI曾声称其合法性源于“数学与人工智能咨询小组”,而该小组在其最初的咨询声明开篇便指出,前沿人工智能企业不应利用内部模型对高级数学问题进行测试。OpenAI无视了咨询小组立场中的核心前提,这表明其完全漠视了科学研究规范,正是这些规范确保了数学的可靠性、研究的伦理性以及符合公共利益。数学家对进步有着独特的见解,这种见解植根于历史和学科特有的考量。我们驳斥OpenAI关于此次发布能推动数学学科发展的说法,并敦促数学界和公众对这种发布模式的价值保持应有的怀疑态度。一次性发布 700 多个文件并非学术能力的体现,而是权力的展示。我们敦促数学家们停止与 OpenAI 的合作,回归以人类理解为核心的科学理念。======================和我之前理解的一模一样“回归以人类理解为核心的科学理念”有很多人不知道数学界到底在想什么,简单的说,目前AI解题“人类不能理解”。数学界的意思是,不管对还是不对,解出来的东西必须让人类可以理解。所以问题就在于:数学到底是一个客观的事物,还是为人类服务的。其实这个问题甚至可以扩散到物理学,化学。如果是为人类服务的,人类不能理解,不能称其为数学,那么AI就是错的。如果数学客观存在的,人类理解不理解,不影响数学的发展,那么AI就是对的。这个争议一定会蔓延到物理和化学上的。

7. 陶哲轩:数学2.0时代已至!

8. 陶哲轩、邓煜等菲尔兹奖得主“开炮”:AI正毁掉数学

9. 陶哲轩的「黑盒AI治癌药」思想实验,戳中了每个用 AI 的工程师

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章