AI写论文顺手造假,14.7万条假引用正在污染学术界
AI为什么会在参考文献上"自己编故事"
要理解这个现象,得先知道大语言模型的工作逻辑。AI生成文字时,本质上是在做概率预测——它知道学术写作"应该"有怎样的引用格式,于是在海量训练数据中学习到"讨论某个话题时,应该引用什么样的文献"。但问题在于,模型掌握的是引用的形式,而不是每篇论文的唯一身份信息。当它需要生成一条引用时,很可能把不同论文的作者、标题关键词、期刊名称进行概率组合,最终产出一个"高度合理但根本不存在"的引用。这不是某个产品的bug,而是所有大语言模型的结构性缺陷——用ChatGPT、Claude、DeepSeek都会遇到。越是冷门领域、小众文献、专业细分问题,越容易触发幻觉,因为这些话题在训练数据中曝光有限,模型只能靠"拼凑"来凑答案。345
幻觉文献有多普遍?数据告诉你有多严重
如果你觉得这是小概率事件,下面这组数据可能会改变这种认知。2026年5月发表在arXiv上的一项审计研究显示,研究人员在arXiv、bioRxiv、SSRN和PubMed Central四个平台中共检测到约14.7万条幻觉引用,仅2025年一年就可能出现这么多。更关键的是增长趋势:2023年时,每2828篇论文中约有1篇含有虚假引用;2025年,这个比例变成每458篇中有1篇;到了2026年前7周,进一步攀升至每277篇中有1篇。不到三年,问题规模扩大超过10倍。《Nature》新闻团队联合AI公司的分析也指出,在被标记为"最可疑"的100篇论文中,人工审核确认至少65篇包含不存在的引用——如果这一比例推及整个学术出版体系,2025年全球约700万篇学术论文,可能有超过11万篇含有无效引用。678
如何避免被幻觉文献"坑":实操方案汇总
学术圈正在对AI幻觉动真格
面对日益严峻的幻觉文献问题,学术界已经开始采取行动。arXiv明确针对"使用AI本身"之外,重点针对那些明显没有认真检查大语言模型输出的情况——比如论文中出现不存在的参考文献、未删除的AI对话痕迹、占位符残留,或其他一眼就能看出未经核验的错误内容。ICMJE、Elsevier等出版规范也基本一致:AI工具不能被列为作者,因为它无法对论文的准确性、完整性和原创性负责;作者可以使用AI辅助整理和写作,但必须对AI生成内容进行人工审查。技术层面,Grounded AI开发的Veracity工具可以将论文参考文献与学术数据库进行比对,自动标记不存在的论文、错误DOI、错误期刊信息或引用已撤稿论文。GPTZero也在与ICLR合作开发投稿筛查工具,在ICLR 2026投稿审查过程中,该工具共检查了70多万条参考文献,标记出约9000条需要人工进一步核查的可疑引用。108
当前文章无评论,是时候发表评论了