10月28日,一段演讲片段被各家媒体剪成短视频:菲尔兹奖得主邓煜说,人类不能放弃自主思考,不能给AI当狗。界面新闻
光看热搜标题,很容易把它读成一位数学家对AI的宣战。可回到10月25日的演讲全文,他说的几乎是另一件事。
先把话放回演讲里
那场演讲由《知识分子》和《赛先生》合办。邓煜开场就谈10月6日“某个AI公司”公布的300多个问题、700多篇文章。知识分子
他没有否认这些成果的分量,称“相当一部分都是属于数学上非常重大的进展”。知识分子
他反对的是发布方式:多数证明不公布思维链,却以“防蒸馏”为由拒绝公开。知识分子
“对AI公司来讲,你不能在只有你蒸馏全人类的网络文献、全人类的知识的时候,就大大方方地去蒸馏。”这句话后来被单独摘出来传播。知识分子
邓煜并不反AI。他在演讲里说得很直白:“我们在数学研究中,当然不应该拒绝使用AI,而应该使用这样的工具”。知识分子
他给AI划的位置是:人负责选题、定方向、判断什么值得做;AI负责试错、算细节、跑验证。
“AI相当于是一辆汽车……汽车可以自动驾驶,自己可以跑很远,但如果我们不在车上,这对我们来说有什么意义?”他反问道。知识分子
“做狗”说的是放弃判断
这也是他说“给AI做狗”的语境。原话是:“有的人觉得给AI做狗没什么不好,如果是这样的人,那我也没有什么必要在这里说了”。知识分子
他引用帕斯卡“人是一根会思考的芦苇”,想说的不是AI不会思考,而是AI不能替我们思考。界面新闻
如果有了AI就放弃自主思考,“我觉得就和动物没什么区别”。知识分子
这套说法最容易被误解成“别用AI”。其实他针对的是另一种状态:问题让AI提,答案让AI给,对错也交给AI判。
他举了个很具体的例子:AI也可以自己提问题,但他没有理由认为,AI自己提的问题会是人类感兴趣的问题。知识分子
工具可以代替劳动,不能代替目的。这个区分,比“用不用AI”重要得多。
这句话的软肋,和它的用处
当然,他的具体主张有硬碰硬的反驳。
反蒸馏一方有个很硬的理由:公开思维链,就是公开最高效的“抄袭路径”。对商业公司来说,思维链是配方,不是论文;防蒸馏是自保,不是学术不端。知乎
这个反驳不好绕开,也解释了邓煜要求AI公司公开思路,为什么难落地。
邓煜没有把这两件事混在一起。他先承认成果的价值,再追问公司的做法;先说要使用AI,再谈以谁为主体。
他提的要求其实很具体:用户能选择数据是否用于训练;思路可追溯;数学界要有自己的开源模型。
这些要求不要求AI停步,只要求用AI的人别从驾驶座上消失。
10月26日,OpenAI又宣布把「局部平滑猜想」推到所有维度。AI做数学的速度还在加快。新智元
越是在这种时候,“人提问、AI试错”的分工就越不像姿态,而像必须提前回答的问题。
对普通人,这件事也不只是数学界的。
用AI查资料、改代码、做初稿,是把执行外包;把“该不该做、为什么做、结果对不对”一起交出去,才是把判断外包。
邓煜说的“主体”,落到日常就是三个问题:问题是不是我选的?我能不能解释为什么?我能不能验证结果?
他说,如果AI时代数学真的消失,“恐怕是整个人类层面的悲哀”。界面新闻
悲哀的不是数学家失业,而是一个物种把自己最擅长的思考,交给了一个不会替它负责的东西。