菲尔兹奖得主邓煜谈AI反蒸馏:一分钟搞懂知识蒸馏偷了谁的数据

源自93位全网作者

07:43

10月25日,菲尔兹奖得主、芝加哥大学数学系教授邓煜在《知识分子》与《赛先生》联合主办的"AI与数学"论坛上发表主旨演讲,把矛头对准了AI行业眼下最热也最别扭的词——反蒸馏。他对AI公司的批评,成了一句刷屏的话:你不能大大方方蒸馏全人类的网络文献和知识,却在大家只想了解一下思维链时,开始说这个不行、那个不行。微博知乎

那么"知识蒸馏"到底偷了谁的数据?拆开看有三层。被蒸馏进模型的底层,是全人类公开的网络文献和知识,包括数学家几十年的积累;被当作商业资产封存起来的,是模型自己产出的思维链;第三层最扎手——研究者付费输入的思路,可能正在变成公司的研究成果。演讲里邓煜转述了不止一位数学家的遭遇:喂给模型的想法,几周后出现在公司的最新发布中,做法和证明极为相似;而公司虽然否认了具体泄漏路径,也承认无法完全排除用户数据在训练中发挥间接作用。中国新闻网

一分钟看懂"蒸馏"

机器学习里,知识蒸馏原本指小学生模型抄大学生模型的作业:拿教师模型的输出和推理过程当训练数据,低成本快速养出能力接近的学生模型。这几年行业里警惕的是这条路的极端用法——不自己训练模型,而是海量调用对手模型的接口,把对方输出的思维链吸来自家训练。各家模型公司的用户协议为此划了线:生成内容不得用于制作竞品,接口风控负责盯异常调用,完整的思维链则干脆不再公开——这就是所谓"反蒸馏"。知乎

为什么是现在开麦:从一枚千禧年难题说起

导火索是OpenAI今年秋天的连环动作。9月8日,OpenAI宣称其内部模型一个能力显著强于刚发布旗舰版本的模型,率领约1万个AI智能体并行工作约88小时,找到了纳维-斯托克斯方程(N-S方程)存在性与光滑性问题的反例——这是克雷数学研究所悬赏百万美元的七大千禧年难题之一。争议随之爆发:纽约大学教授巴克马斯特称自己把未发表的草稿放在OpenAI的代码工具里,怀疑成果被"偷看",而他与Anthropic研究员公布同方向关键前置成果,比OpenAI官宣只早了约12小时;OpenAI否认泄漏路径、但承认团队的优先权,交锋中"你想毁掉自己的职业生涯吗"这句话事后也被证实并道歉。9月11日,25位菲尔兹奖得主联名签署公开信,警告AI公司为争夺"解决著名数学难题"的头条,正在威胁学术研究本身。联署的邓煜与其北大同窗王虹,正是当年7月新科得主——中国籍数学家首次捧起这座"数学界的诺贝尔奖"。中国新闻网界面新闻中国新闻网

10月6日,OpenAI一口气公布722份数学手稿,分为372组,覆盖数学几乎所有重要方向,其中数十项被数学家认为达到了菲尔兹奖级别。邓煜的态度是把两件事完全切开:他先承认这些成果对数学有相当大的促进——AI知识面无限、试错成本极低,人跟AI比速度"没有任何希望";然后才逐条清算公司的行为。中国新闻网

邓煜的三连问与一笔商业账

他的逻辑起点是个类比:既然很多人愿意把AI当"虚拟研究者",那它就得按学术界的规矩被评判。第一问,公布思维链。人解开难题会被邀请做报告讲思路,思维链就是AI的"思路",可这批成果里真正公布思维链的只有极少数,大多以"防蒸馏"为由拒绝。第二问,说明思路来源。人类研究如果沿用他人思路必须注明,而AI公司公布的文章里"很多情况下我没有看到这样的说明"。第三问,先验证再发布——证明未经形式化验证就直接放出,后来发现多于一篇文章存在错误,甚至有文章被撤回。

比三连问更锋利的,是他算的一笔商业账:数学家付费使用产品、输入自己的思路,公司拿这些思路训练下一代模型,再用新模型解决数学界的公开问题、拿走所有荣誉,他留下的反问是:我们作为用户,我们得到了什么?我们什么都没有得到。知乎

两本账要分开:道义与法理

但也有必须分开的两本账。知乎这个话题下获赞同最多的回答点破了这一点:抓取公开文献训练模型目前处在公司所在地的法律框架内,协议里的反蒸馏条款也是明规则,邓煜的指控是道义问题,不是违法问题。这正是这场演讲的落点——他没有要求封杀蒸馏,而是给出三条可执行的规矩:AI应当由人来使用,工具提供方不应亲自下场代替用户搞研究;用户应当能轻易选择自己的输入是否用于训练;贡献必须可追溯,"某甲"喂给模型的想法,“某乙"借它写出的论文要能对上账,优先权争议和人类与AI各自的贡献才能厘清。他还提议数学界建设开源数学模型,把模型掌握在自己手里——他坦承开源模型与最强商业模型尚有相当差距,但"早半年或者晚半年拥有达到某个具体水平的工具,会有很大差别吗?我觉得不见得”。知乎

接下来值得盯两件事:OpenAI会不会为这722份手稿补上思维链;可追溯机制与开源数学模型,会不会从一位菲尔兹得主的倡议变成数学界的共同行动。至于"喂给模型的想法出现在发布中",公司方面并未认账,它仍是疑点而非定论。但邓煜划下的底线已经足够清楚:无论AI多强,人永远是研究的主体。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章