什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

AI写论文顺手造假,14.7万条假引用正在污染学术界

提交论文前,一位博士生顺手在Google Scholar上核对了AI帮他整理的参考文献。结果令人震惊:十几条引用里,有三篇论文根本检索不到——作者是真的,期刊名称像模像样,DOI格式也完全符合规范,但这些论文从未存在过。这类现象有个专业名称,叫"幻觉"(Hallucination),指的是AI在没有任何事实依据的情况下,虚构出看似真实的信息,却用极其确定的语气输出,自身无法察觉错误。学术写作场景中,最典型的幻觉类型是"幻觉引用":凭空生成不存在的论文标题、作者、期刊、DOI,或是对真实文献进行篡改——改结论、调换作者、张冠李戴。12
AI为什么会在参考文献上"自己编故事"
要理解这个现象,得先知道大语言模型的工作逻辑。AI生成文字时,本质上是在做概率预测——它知道学术写作"应该"有怎样的引用格式,于是在海量训练数据中学习到"讨论某个话题时,应该引用什么样的文献"。但问题在于,模型掌握的是引用的形式,而不是每篇论文的唯一身份信息。当它需要生成一条引用时,很可能把不同论文的作者、标题关键词、期刊名称进行概率组合,最终产出一个"高度合理但根本不存在"的引用。这不是某个产品的bug,而是所有大语言模型的结构性缺陷——用ChatGPT、Claude、DeepSeek都会遇到。越是冷门领域、小众文献、专业细分问题,越容易触发幻觉,因为这些话题在训练数据中曝光有限,模型只能靠"拼凑"来凑答案。345
幻觉文献有多普遍?数据告诉你有多严重
如果你觉得这是小概率事件,下面这组数据可能会改变这种认知。2026年5月发表在arXiv上的一项审计研究显示,研究人员在arXiv、bioRxiv、SSRN和PubMed Central四个平台中共检测到约14.7万条幻觉引用,仅2025年一年就可能出现这么多。更关键的是增长趋势:2023年时,每2828篇论文中约有1篇含有虚假引用;2025年,这个比例变成每458篇中有1篇;到了2026年前7周,进一步攀升至每277篇中有1篇。不到三年,问题规模扩大超过10倍。《Nature》新闻团队联合AI公司的分析也指出,在被标记为"最可疑"的100篇论文中,人工审核确认至少65篇包含不存在的引用——如果这一比例推及整个学术出版体系,2025年全球约700万篇学术论文,可能有超过11万篇含有无效引用。678
后果远比想象中严重。2023年,纽约一名律师使用ChatGPT准备法庭文件,引用了6个完全不存在的判例,法官发现后律师面临纪律处分。在学术界,预印本平台arXiv已经动了真格:一旦发现投稿论文中含有AI幻觉引用、抄袭内容或明显未经核查的AI输出,作者将被立即禁止向arXiv投稿一年,解禁后所有后续投稿须先在正规同行评审期刊完成发表才能上传。发表在正式期刊的问题论文同样难逃追责——有案例中,一篇讨论伦理话题的文章被发现29条参考文献中至少19条疑似伪造,通讯作者后来承认曾使用ChatGPT生成参考文献,最终论文被撤稿并留下科研诚信污点。91011
如何避免被幻觉文献"坑":实操方案汇总
既然幻觉无法根除,核心原则就变成:AI生成参考文献后,必须逐条人工核验。核验方法其实不复杂:复制文献标题或DOI,去Google Scholar、PubMed、Web of Science、CNKI等权威数据库检索,确认论文确实存在且作者、年份、期刊、卷期页码等信息完全匹配。优先采信带唯一DOI号的文献——DOI就像论文的"身份证号",是相对可靠的验证依据。如果检索不到,优先查Google Scholar;外文文献、小众期刊论文尤其需要重点关注,因为这些正是AI幻觉的高发区。122
改变使用方式比事后补救更有效。几个被验证有效的策略:不要让AI一次性批量生成参考文献列表,改为先让AI列出研究关键词,自己去数据库检索筛选真实文献,再让AI辅助排版引用格式。在提示词中增加约束——"禁止编造任何文献,找不到就如实说明,所有引用必须附带可检索DOI"。如果工具支持,选择接入真实文献数据库的联网检索版本,而不是单纯依赖模型自身记忆。此外,市面上已出现专门验证参考文献真伪的工具——接入超过2.5亿篇学术文献的数据库,可以批量核查文献是否存在、信息是否匹配,红色标记"没找到"的条目需要重点关注(但需注意,中文文献因数据库接口限制,目前验证效果不如英文文献)。213
遇到已经生成假文献的情况,也有补救路径:全部删除虚构条目,替换为同领域真实高相关文献;核对正文内的上角标引用序号和文末参考文献一一对应;投稿或答辩前完成一轮完整文献检索复核。整个过程中,核心底线只有一条:作者对所有引用真实性负全责,AI不能负责。142
学术圈正在对AI幻觉动真格
面对日益严峻的幻觉文献问题,学术界已经开始采取行动。arXiv明确针对"使用AI本身"之外,重点针对那些明显没有认真检查大语言模型输出的情况——比如论文中出现不存在的参考文献、未删除的AI对话痕迹、占位符残留,或其他一眼就能看出未经核验的错误内容。ICMJE、Elsevier等出版规范也基本一致:AI工具不能被列为作者,因为它无法对论文的准确性、完整性和原创性负责;作者可以使用AI辅助整理和写作,但必须对AI生成内容进行人工审查。技术层面,Grounded AI开发的Veracity工具可以将论文参考文献与学术数据库进行比对,自动标记不存在的论文、错误DOI、错误期刊信息或引用已撤稿论文。GPTZero也在与ICLR合作开发投稿筛查工具,在ICLR 2026投稿审查过程中,该工具共检查了70多万条参考文献,标记出约9000条需要人工进一步核查的可疑引用。108
arXiv计算机科学分区主席Thomas Dietterich的一番话点出了问题的本质:"如果一篇论文里出现了不可辩驳的证据,证明作者没有检查LLM生成内容,这意味着整篇论文的可信度都无从判断。" 这句话背后是学术界正在形成的新共识:AI可以是辅助工具,但"引用"这件事必须代表作者真正读过的知识——参考文献是学术话语体系的"锚点",一旦锚点本身是假的,整个知识大厦都会动摇。对每个需要写论文的人来说,与其想着怎么让AI帮忙"绕过"引用核查,不如把AI定位在辅助位置:帮你生成检索策略、整理格式、润色语言,但文献来源这条线,必须牢牢攥在自己手里。611

评论

评论区空态插画

当前文章无评论,是时候发表评论了