10月28日,"菲尔兹奖得主邓煜称人类不能放弃自主思考给AI当狗"的话题冲上热搜,它出自三天前的一场线上演讲——10月25日,邓煜在《知识分子》与《赛先生》联合举办的"AI与数学"论坛上,系统阐述了他对AI时代数学研究的思考。但只记住"当狗"两个字,恰恰误读了他:邓煜反对的不是用AI,而是把思考整个外包出去。他在演讲里把立场说得很白:在数学研究中也好,在任何事情中也好,人总是作为主体,AI是作为工具,是人利用来进行研究的工具。他也从不讳言自己用AI——公开采访中,邓煜透露自己日常会使用AI辅助科研,如借助AI验证特例、查找文献或核验局部逻辑。这位顶尖数学家为"人怎么用AI"划的边界,普通人日常同样用得上,恰好可以落成四条。界面新闻知识分子量子位
这句狠话不是学者的情绪,是对一件具体事情的回应
风波的直接背景发生在10月上旬:OpenAI把一批内部模型产生的数学结果直接公开在了GitHub上,首版目录有722份手稿、归为372个结果家族;到10月8日再核对,在列手稿变成719份——减少的3份被撤回了。被撤回的原因包括证明中的符号错误,大量文字证明与其形式化代码之间还存在明显断层。36氪界面新闻
即便是称赞这次发布为"数学的一个惊人里程碑"的组合数学家,紧接着也提醒:证明仍需人类数学家核验、消化。邓煜对这件事的态度是分开的:成果本身对数学研究有相当大的促进作用,我们没有任何理由拒绝这样的工具;有问题的是发布方式——公布的证明里只有极少数真正给出了思维链,大多数以"防蒸馏"为借口拒绝公开。有的证明直接沿用人类已有思路也不作说明,发布前同样没有做正确性保证——后来的撤回正好印证了这一点。更早的9月11日,陶哲轩、邓煜等25位菲尔兹奖得主已联合署名发表公开信《人工智能在数学中的严重错位》,他是最年轻的署名者。所以"别给AI当狗"不是反AI宣言,而是一个深度使用AI的数学家,在替所有用AI的人要规则。36氪知识分子机器之心
第一条边界:问题你来提,试错交给AI
邓煜对AI能力的判断相当克制:知识面近乎无限,试错成本极低——人尝试一条思路几个月不通就白费了,AI可以成千上万个智能体并行试错,“如果人要跟AI比速度,那肯定是没有任何希望的”。他给出的用法是:人先有一个思路,把它形成具体的路线图,把握方向;细节填充、节点微调、路线跑不通时试错,这些才交给AI。知识分子
翻译到日常就是一句话:带着自己的问题去找AI,别让AI替你产生问题。让AI写方案之前,先想清楚要解决什么、什么算好;让AI查资料之前,先确定要验证的假设。同样一句"帮我看看这个项目怎么办",有判断框架的人在用工具,没有的人在等投喂。
第二条边界:没理解的结果,不算你掌握的结论
在与陶哲轩的对谈里,邓煜提出过"两条边界"的判断:过去只要有证明,就必然有人类理解它,两条边界是重合的;但当AI能在不展示思维过程的情况下直接生成结果,就出现了"有证明,但只有AI知道,人类并不理解"的第二条边界。722份手稿公开次日就有三份因符号错误被撤回,就是这条边界落到现实的样子。界面新闻
普通人天天在踩同一条线:AI给的代码、报告、健康或理财建议,都是"有结论,但你没验证"。守住这条边界不需要专业知识,只需要一个动作——把输出当草稿,不当答案:代码跑没跑通、数字有没有出处、医疗说法要不要问医生,出手前自己核验一遍关键点。你署名、转发、据此做决定的东西,责任在你,不在模型。
第三条边界:你的输入,你有权决定它去哪
邓煜说的"正确使用方式"里,有一条特别容易被普通用户忽略:用户应该能够轻易选择,自己输入给AI的数据是否允许AI用于训练。他同时要求可追溯:甲输入的思路被乙得到的结果用上,这笔账要能算清——提供工具的AI公司,不该下场代替用户做研究。知识分子
落到日常就两个习惯:把证件号、病历、客户资料这类信息贴进对话框之前,先看清产品设置里的训练授权选项,能关则关;引用AI给出的事实性内容对外发布之前,追一次原始来源。模型编错了数据,公开担责的会是你的名字。
第四条边界:留一段"步行"的场景
对谈里,陶哲轩的比喻比任何警告都好懂:汽车确实比走路快,但你不会希望把所有原本步行的场景都换成开车。科研里这叫"慢科研"孕育深度理解;生活里,它是那些不该外包的事:给孩子讲题时的思路推演、自己写一封重要的信、开会前先把观点想一遍。界面新闻
那句刷屏的"当狗",原文语境正是这里:如果有了AI,我们就放弃了自主思考这样的能力,就和动物没什么区别;当然,觉得给AI做狗没什么不好的人,他也不认为有必要多说。演讲结尾他引用帕斯卡——“人是一根会思考的芦苇”,重点在于思考。对普通人,这话不必悲壮,落成操作就是一句:AI可以把答案送到你面前,但要不要懂、懂到什么程度,必须还是你说了算。守住这一条,前面三条才不会失守。知识分子