当前位置:
AIGC文章详情

PNAS在忙着研究AI的时候,自己先被AI坑了:写论文用AI的人都该看这一课

源自22位全网作者

14:27

今天小红书有一条帖子在学术圈传得挺快:《怎么让文稿去AI味?指令调优会有反作用》。说的是PNAS上一篇研究,发现大模型越经过指令调优、越"听话",写出来的东西反而越偏离人类的语言习惯,靠删几个高频词"去AI味"基本没用。

这条帖子之所以戳中人,是因为它背后站着一个更劲爆的事实:就在今年夏天,PNAS这本全球发文量最大、资历最老的综合性期刊之一,自己先被AI坑了——它撤回了建刊以来第一篇因为AI造假而被撤稿的文章。一边是期刊在密集发表"研究AI"的论文,一边是它自己被AI生成的内容绊了一跤。这个反差,值得每个在用AI写论文的人花三分钟看清楚。

PNAS在忙着研究AI的时候,自己先被AI坑了:写论文用AI的人都该看这一课

一、撤稿事件:不是结论错了,是"查无此文"

2026年7月6日,PNAS正式发布撤稿声明,撤回一篇2025年9月29日在线发表的评论文章《Curiouser and curiouser: Meningeal lymphoid structures in the aging brain》(衰老大脑中的脑膜淋巴结构),作者来自以色列阿里埃勒大学。知乎

注意两个细节。第一,这不是一项大型实验研究,只是一篇观点性的评论文章——也就是说,再"轻"的文章类型,也逃不过核查。第二,撤稿原因不是结论有争议,而是两条都踩在AI上:

其一,参考文献造假。作者承认,他们用微软Copilot把引用文献的PubMed ID转换成格式化的参考文献列表。小红书这步操作本身甚至称得上高效,致命的是投稿前没有逐条核对,AI"脑补"出来的部分参考文献根本不存在。对学术出版来说,参考文献是论文的可追溯链条:引用指向不存在的论文,读者就永远无法验证你的结论从哪来。

PNAS在忙着研究AI的时候,自己先被AI坑了:写论文用AI的人都该看这一课

其二,论文图1直接用生成式AI制作,违反了PNAS的明确规定——除非AI本身就是研究对象,否则不得使用图像生成工具制作科研图片。知乎

PNAS在忙着研究AI的时候,自己先被AI坑了:写论文用AI的人都该看这一课

把两件事合起来,这个案子的性质很清楚:期刊罚的不是"用了AI",而是"把内容交给AI之后就放弃了核实"。知乎上从7月初到8月中旬一直有人跟进讨论这件事,其中8月10日一篇文章的标题说得最直白:《不怕被坑,那就把所有工作都丢给AI就好了》。

二、同一本PNAS,还在密集给AI"判刑"

有意思的地方来了。就在撤稿的同时,PNAS近几个月发表的一系列研究,几乎条条都打在论文人的焦虑点上。

第一条是"AI味"研究,也就是今天刷屏这条。研究者分析了66类词汇、语法和修辞特征,让模型续写人类文本的前500个词,再拿人类真实写出的后500个词来对比。结果发现:Llama 3的指令调优版本,比同尺寸的基础版本更偏离人类的语言分布。小红书翻译一下:模型越被调教得"安全、清晰、听话",它的腔调反而越固化。而且这种"AI味"不是几个"综上所述""值得注意的是"之类的高频词,而是一整套语法、句式、段落推进的习惯。所以指望拿一份"违禁词表"做全局替换来去AI味,大概率是自欺欺人——真正要去味,得自己动手改文章的结构和逻辑。

第二条,关于"人眼鉴定"靠不靠谱。PNAS此前发表过一项研究,让人们分辨论文摘要是不是AI写的,结果准确率只比瞎猜略好一点,而且"自信"和"准确"几乎不相关。这意味着两件事:别指望审稿人或检测工具替你兜底,也别以为自己"写得够像人"就一定安全。唯一可靠的兜底,永远是你自己核实过的事实。

第三条,直接推翻了一个流传很广的结论。此前有事件研究声称:采用大语言模型能让学者科研产出暴增36%。小红书今年发表在PNAS上的一篇论文(Renault、Bergeaud等)重新检查了方法论,发现这类研究把"第一次检测到AI辅助论文"当作"开始用AI"的时间点,本身就埋了雷——产出越高的月份越容易被检测到,处理时点和生产力天然挂钩。就算AI完全没起作用,数据也会机械地呈现出"用了AI之后产出上升"的曲线。他们用随机分配、安慰剂、无效应模拟反复验证,都能复现原论文的"上升"模式。结论并不是"AI没用",而是:AI到底给科研提了多少效,这件事远没有很多摘要和媒体标题说得那么板上钉钉。

PNAS在忙着研究AI的时候,自己先被AI坑了:写论文用AI的人都该看这一课

三、对真正写论文的人,边界到底在哪

把撤稿案例和PNAS自己的政策放在一起看,真正的红线其实就一句话:你可以用AI,但你要对论文里的每一个字负责。

拆成可执行的清单:

低风险区——可以用,但守两条规矩:

  • 用AI做语言润色、翻译、格式整理、文献思路梳理,都没问题;

  • 规矩一,按期刊要求披露AI使用情况;规矩二,提交前人必须完整过一遍,AI输出的每一个引用、每一个数字都要回溯到原始出处。

红线区——碰了就可能付出撤稿代价:

  • 让AI生成参考文献然后直接用。这正是这次撤稿的直接原因;

  • 用AI作图工具生成科研图片。PNAS对此是明文禁止,其他主流期刊也在跟进;

  • 让AI自由发挥数据、引文和事实陈述。幻觉不会提前打招呼。知乎

  • 花钱买"降AI率"服务。所谓用魔法打败魔法,本质是拿另一个AI对抗检测,属于学术不端,还可能泄露论文。小红书

还有一个容易被忽视的点:责任落在作者名单上,跑不掉。撤稿声明会白纸黑字写上所有作者的名字,不存在"是学生干的""是AI干的"这种豁免——哪怕导师一个字没写,作为通讯作者也要一起承担后果。

好消息是,这套规则不是PNAS独有的。Nature、Science和各大出版商这两年陆续更新的AI使用规范,底层逻辑完全一致:披露加人工负责。据本周社交平台上流传的帖子整理,这个月国内数百本科技期刊集体发出倡议:AI不能当作者,不能主导写作和修改。小红书知网也已下架部分把AI工具写进署名栏的论文,还有高校给毕业论文划出了AI率上限。把PNAS这次的红线搞明白,投别家也基本通用,这笔学习成本不白花。

四、接下来值得盯什么

  1. 期刊对已发表论文的回溯核查会不会加码。这次撤稿发生在论文上线10个月之后,说明"发表了就安全"的时代正在过去;

  2. AI内容核查相关的研究进展。PNAS自己在持续发表这个方向的工作,判断会不断更新,比如这次"指令调优加重AI味"的发现,就推翻了很多人对"换个模型就能去味"的幻想;

  3. 国内高校和期刊的AI规则走向。毕业论文AI率怎么测、怎么卡线,期刊倡议会不会变成硬性条款,都还在演变中,提交前值得再看一眼最新通知;

  4. 自己学科的投稿须知。评论文章和实验论文的政策不同,不同期刊也不同,投稿前花两分钟读一遍官网作者指南,是性价比最高的一份保险。

最后送所有论文人一句话:AI可以替你打字,但不能替你负责。这个夏天,PNAS用自己的一篇撤稿论文,替所有人交了学费。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章