54 秒写完一篇“假论文”:AI 正在把计算机科学推向审稿危机?【给你讲Nature】

源自UP主:ClassroomLM给你讲论文

02-19 12:14

AI工具能在54秒内生成一篇看似专业的学术论文,但数据引用全为虚假。这种现象正在计算机科学领域引发前所未有的审稿危机,投稿量暴增而传统审稿系统难以负荷,学术诚信面临严峻挑战。

54 秒写完一篇“假论文”:AI 正在把计算机科学推向审稿危机?【给你讲Nature】智能速览

  • 德国研究员用54秒生成数据和引用全假的学术论文

  • 顶级机器学习会议投稿量一年内从1万暴增到2.4万篇

  • arXiv预印本平台月投稿量涨50%,拒稿量涨5倍

  • 超过一半研究者承认在审稿时使用过AI工具

  • 部分会议开始尝试用AI工具检测伪造引用

  • 专家警告AI垃圾论文对学术系统构成生存性威胁

54 秒写完一篇“假论文”:AI 正在把计算机科学推向审稿危机?【给你讲Nature】精华内容

当AI既能写论文又能参与审稿,科学如何守住真实性底线?这场危机或许才刚刚开始,学术体系正面临前所未有的挑战。

危机现状

德国研究员Rafael Wimmer仅用54秒就生成了一篇看起来很专业但数据和引用全是假的论文。这一现象背后是投稿量的爆炸式增长。某顶级机器学习会议2025年投稿量约1万篇,到2026年暴增至24000多篇,翻了一倍还多。arXiv预印本平台自2022年11月以来,月投稿量增长50%,但月拒稿量更是激增5倍,达到2400多篇。

韩国科学技术院学者指出,这种量级已超出现有审稿系统的设计极限。数千审稿人面对数万篇论文,每篇论文的审稿时间被严重压缩,彻底仔细的评估变得几乎不可能。

识别难题

arXiv创始人Paul Ginsparg警告,这种AI垃圾论文很难用传统方法发现。以往审稿人通过查看摘要或快速浏览正文就能判断论文质量,但现在AI生成的论文模板化程度很高,表面上看起来天衣无缝。

更严重的是,许多作者使用AI生成内容却懒得验证真假,导致论文中充满AI"幻觉"出的假引用和假图表。GPTZero工具在去年一个顶级会议的4800多篇已接收论文中,就发现了100个凭空捏造的参考文献。

应对措施

学术界正在尝试多种解决方案。“用魔法打败魔法”,一些会议开始用AI工具检测伪造引用,发现假引用的论文可能直接被拒稿。ICML会议创新性地设立双轨审稿制度:一个轨道允许审稿人有限使用AI辅助,另一个轨道坚持纯人工审稿,让作者自主选择。

其他措施包括:要求首次投稿者通过资格审查、收取100美元投稿费并发给审稿人以限制灌水、甚至提议改为全年滚动发表模式避开审稿高峰。去年调查显示,超过一半研究者承认在审稿时使用过AI,尽管许多期刊明令禁止。

未来挑战

计算机科学只是第一个被AI垃圾淹没的领域,因其研究主要在电脑完成且研究者本身就是AI专家。但随着AI普及,其他学科包括需要实验的"湿实验室"学科也将面临类似挑战。

OpenAI高管将过滤低质量AI内容比作过滤垃圾邮件,强调最终目标是"加速顶端创新",帮助真正优秀科学家做得更好。当工具能轻易制造看似真实的"知识"时,整个学术体系需要重新思考如何在效率与诚信间找到平衡。

这场AI引发的学术危机远未结束,它不仅挑战现有审稿体系,更迫使我们重新思考科学的本质。当AI既能制造知识又能判断知识,我们如何确保科学的纯粹性?或许答案在于建立更智能的过滤机制,同时培养更强的批判性思维。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章