菲尔兹奖得主邓煜说“给AI做狗”不好,但他不是让你别用AI

源自288位全网作者

22:23

10月28日,一段演讲片段被各家媒体剪成短视频:菲尔兹奖得主邓煜说,人类不能放弃自主思考,不能给AI当狗。界面新闻

光看热搜标题,很容易把它读成一位数学家对AI的宣战。可回到10月25日的演讲全文,他说的几乎是另一件事。

先把话放回演讲里

那场演讲由《知识分子》和《赛先生》合办。邓煜开场就谈10月6日“某个AI公司”公布的300多个问题、700多篇文章。知识分子

他没有否认这些成果的分量,称“相当一部分都是属于数学上非常重大的进展”。知识分子

他反对的是发布方式:多数证明不公布思维链,却以“防蒸馏”为由拒绝公开。知识分子

“对AI公司来讲,你不能在只有你蒸馏全人类的网络文献、全人类的知识的时候,就大大方方地去蒸馏。”这句话后来被单独摘出来传播。知识分子

邓煜并不反AI。他在演讲里说得很直白:“我们在数学研究中,当然不应该拒绝使用AI,而应该使用这样的工具”。知识分子

他给AI划的位置是:人负责选题、定方向、判断什么值得做;AI负责试错、算细节、跑验证。

“AI相当于是一辆汽车……汽车可以自动驾驶,自己可以跑很远,但如果我们不在车上,这对我们来说有什么意义?”他反问道。知识分子

“做狗”说的是放弃判断

这也是他说“给AI做狗”的语境。原话是:“有的人觉得给AI做狗没什么不好,如果是这样的人,那我也没有什么必要在这里说了”。知识分子

他引用帕斯卡“人是一根会思考的芦苇”,想说的不是AI不会思考,而是AI不能替我们思考。界面新闻

如果有了AI就放弃自主思考,“我觉得就和动物没什么区别”。知识分子

这套说法最容易被误解成“别用AI”。其实他针对的是另一种状态:问题让AI提,答案让AI给,对错也交给AI判。

他举了个很具体的例子:AI也可以自己提问题,但他没有理由认为,AI自己提的问题会是人类感兴趣的问题。知识分子

工具可以代替劳动,不能代替目的。这个区分,比“用不用AI”重要得多。

这句话的软肋,和它的用处

当然,他的具体主张有硬碰硬的反驳。

反蒸馏一方有个很硬的理由:公开思维链,就是公开最高效的“抄袭路径”。对商业公司来说,思维链是配方,不是论文;防蒸馏是自保,不是学术不端。知乎

这个反驳不好绕开,也解释了邓煜要求AI公司公开思路,为什么难落地。

邓煜没有把这两件事混在一起。他先承认成果的价值,再追问公司的做法;先说要使用AI,再谈以谁为主体。

他提的要求其实很具体:用户能选择数据是否用于训练;思路可追溯;数学界要有自己的开源模型。

这些要求不要求AI停步,只要求用AI的人别从驾驶座上消失。

10月26日,OpenAI又宣布把「局部平滑猜想」推到所有维度。AI做数学的速度还在加快。新智元

越是在这种时候,“人提问、AI试错”的分工就越不像姿态,而像必须提前回答的问题。

对普通人,这件事也不只是数学界的。

用AI查资料、改代码、做初稿,是把执行外包;把“该不该做、为什么做、结果对不对”一起交出去,才是把判断外包。

邓煜说的“主体”,落到日常就是三个问题:问题是不是我选的?我能不能解释为什么?我能不能验证结果?

他说,如果AI时代数学真的消失,“恐怕是整个人类层面的悲哀”。界面新闻

悲哀的不是数学家失业,而是一个物种把自己最擅长的思考,交给了一个不会替它负责的东西。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章