10月6日,OpenAI把722篇数学手稿一次性挂上GitHub,这些论文主要由一个尚未发布的AI模型生成,涉及372个开放性问题。 第二天,其中3篇被撤回。 原因小得让人哭笑不得:一篇手稿的一个正负号写错,结论失效,另外两篇引用其结论的论文跟着一起塌了。人工智能学家东方财富网差评君
对用AI写作业的学生来说,这是一堂很难得的公开课:AI最常见的失败方式不是说出明显的胡话,而是用完整的格式、自信的口气给出错误细节。要避的从来不是“用AI”,而是“没检查就交”。
错误藏在细节里,连同行都不一定认得出来
被撤回的三篇看不出哪里“像有问题”,公开口径里撤稿原因就是一类低级错误。更说明问题的是同行都不担保:有人拿着这批成果去问ChatGPT背后的GPT-5.6 Sol,它把至少一项备受瞩目的成果定性为幻觉,认为完整专家审核之前不该被当作证据传播。 纽约大学数学教授特里斯坦·巴克马斯特在接受采访时则说得更直接:这一波成果把一些青年数学家的研究计划冲得七零八落,“我们整个研究计划都被毁了”。人工智能学家IT之家
作业里踩的是同一个坑,只是学生没有“撤回”的机会
AI输出里最危险的是细节,三类最容易翻车:出处、数字、推导步骤。让它报参考文献,它很少说“不知道”,多半顺着你的问题补出一个看起来专业的答案。 真正的代价不是被检测到,而是替代:香港大学经济学教授吴延晖团队跟踪发现,学生用上AI后作业确实更快更好,但同一批学生在6个月内的月考成绩下降了20%。 这种代劳的痕迹老师往往一眼能看出:AI写的东西不是差,是太齐,被退回重写时,学生自己都说不出哪步是自己的。小红书澎湃新闻
避坑动作:补上OpenAI这次没做的“审稿人”
先别纠结该不该一刀切禁:清华大学人工智能国际治理研究院院长薛澜的观点是,强行禁止并不现实,关键是把使用方式引导对。 具体到写作业,先画线:让AI干“脑子还是你的”那部分活,比如讲概念、列提纲、改通顺、挑毛病;整段代写、编文献、替你定结论,一律不交出去。人民日报小红书
然后只做三件事。查细节:每个数字、日期、引文、文献单独核一遍,宁可少用一个引用,不多信一个出处。核推导:数学题要求AI给完整步骤而不是最终答案,自己逐步检查正负号、单位、分类讨论——OpenAI那三篇手稿恰恰毁在单个符号上,错误会顺着依赖链传导,你的作业也一样。防“顺着你说”:每问一句先声明“不知道就明说”,同一道题隔一轮换个问法或换个模型,两边答案对不上,就回到课本自己推。
最后一步是交前复述:用自己的话把解题思路讲一遍,讲不顺的那一段就不是你的,也不能当自己的交。这次风波里数学家的共识其实很适合学生记住:AI把答案变得越来越便宜之后,值钱的是校验和理解。 OpenAI错了可以第二天发撤回声明,你交上去的答案、分数和老师的信任没有撤回按钮。用AI写作业唯一安全的姿势,是交上去的每一处都经得起你自己这轮“同行评审”。差评君