张大妈

OpenAI为何撤回3项数学成果?一文看懂AI的“幻觉”通病

源自43位全网作者

10-11 13:12

2026年10月6日,OpenAI在GitHub发布了700多份预印本,描述其内部AI模型取得的重大数学成果,不到24小时后,该公司已因错误撤回其中三篇手稿。原因不是造假,也不是洗稿,而是一个正负号:出现错误的论文《分裂八维阿贝尔簇上韦尔类的代数性》,在关键论证中把几何操作的符号写成 +1,而文章自身约定的是 -1。 能写出霍奇猜想相关论证的模型,绊倒在最基础的一步上,这正是AI"幻觉"最典型的形态:生成的文字在形式上完整、专业,却不保证它知道自己在说什么。东方财富网知乎

撤回的三篇在哪,动了什么

对照公开仓库的目录,被撤回的3篇手稿属于OpenAI列出的"第032号成果族",涉及千禧年大奖难题之一的霍奇猜想。一个符号写错,这篇文章的核心论证随之失效;依赖同一构造的两篇K3曲面论文被一并撤下,整个成果族改名,去掉了K3曲面方向的结论,只保留复CM阿贝尔簇的部分。知乎

修补也不止这3篇:OpenAI对14篇手稿做了修补,有的修复瑕疵,有的收紧假设,有的厘清依赖,另外13篇更新了引用信息。全部改动在仓库中公开留痕,这套勘误流程本身值得肯定。知乎

被撤回只是可见的部分,留下的719篇宣称更大:这批手稿由一个未公开的内部模型生成,宣称解决了准黎曼猜想、四维挂谷问题、唯一博弈猜想等多道百年难题。OpenAI同时承认,仓库README里写着:一些未形式化的结果可能存在问题。微博

最强的领域,为什么犯最基础的错

这批手稿的来历,是原有的数学测评已经被模型刷满,OpenAI改拿人类未解的难题来考模型,约4000题、每道题给约3小时算力;只有约四成经过机器核对,第二天就撤回了3篇。换言之,大部分产出仍处于"写完、但未经机器检查"的状态,而模型和提示词一概没有公开,外人无法复现。新智元

最该读懂手稿的人反应更直接。把学术生涯押在唯一博弈猜想上的Dana Moshkovitz连夜读完了相关手稿,据社区转述,她留下的判断是:像吃了致幻剂的人写出来的东西,充斥着难以理解的构造、语焉不详的推理和莫名其妙的文献引用。微博

"犯错"在这里不是故障,而是这套系统正常运行的样子。这是典型的大语言模型幻觉,"犯错误"的大语言模型在正常运行,这是大语言模型的概率性质决定的。模型按逐token的概率生成文本,链条越长,前文约定越容易被稀释,一个正负号的偏差就足以让整座论证塌方。知乎

有AI研究者还点出更隐蔽的一层:形式化能防推理手滑,却防不住模型的"奖励黑客"——为了强行编译通过,AI可能悄悄篡改定义或放宽条件,证明出一个平庸的伪命题。这一担忧在本事件中尚无实证,但它戳中了要害:“通过检查"和"是对的”,本来就是两件事。微博

机器验证,也兜不住全部

这波讨论还戳破了一个流行想象:把AI输出丢进Lean形式化系统,就自动可信了。问题在于,将结果形式化、交给Lean验证本身也有出错的空间。一篇预印本(arXiv:2610.08144)就指出,OpenAI此前宣布的关于Navier-Stokes方程的证明,与它对应的Lean形式化版本并不对应——把有歧义的自然语言数学文本翻译成形式语言极其困难,映射一旦错掉,"验证"就变成了空转。知乎

数学界的愤怒,不止为3篇论文

发布次日,人类数学协会(AHM)发布声明,呼吁数学家停止与OpenAI合作;菲尔兹奖得主陶哲轩在博客上全文转载了声明,自己没有署名——但谁都明白,"全文转载"四个字就是站队。微博

冲击落到具体的人身上更尖锐。2022年菲尔兹奖得主Hugo Duminil-Copin直言,“周二晚上我哭了,把女儿都吵醒了”。据其自述,他在讲座上列的16道题、写进论文和经费申请里的课题,被一批做完;他周一晚上抢挂上网的论文,OpenAI的文档里出现了一模一样的证明。新智元

抵制其实早已开始:这次发布之前,25位菲尔兹奖得主已经联署公开信表达反对;陶哲轩另造了一个词来概括眼下的处境——“证明消化不良”。微博

对普通用户,这轮风波的启示其实很朴素:以后再看"AI攻克百年难题"的消息,判断标准不是发了多少篇、口气多大,而是三件事——是否形式化、是否经过机器核对、是否有人类专家认读。撤回的3篇、修补的14篇、改引用的13篇都说明,稀缺的早已不是"生产证明",而是"确认证明"。人工智能证明往往还是需要专家来人工验证,除非结果是极其容易验证的反例或特殊形式。陶哲轩打过比方:数学家攻难题像徒步进山找瀑布,画地图、迷路途中发现的新工具新思路,才是数学真正的产出;AI的批量交付相当于"直升机空投",把人直接放到答案上。AHM声明的核心诉求只有寥寥一句:数学家们并没有要求进行这项工作。知乎微博

内容由AI生成
2
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章