AI论文海啸冲垮学术审核,旧评价体系正在被扒掉底裤

源自284位全网作者

13:05

精选参考来源

1
Hinton、Bengio 等 20 多位研究者联名发论文:AI 正在接手 AI 研发,“智能爆炸”可能不远了《What if automating AI R&D triggers an intelligence explosion?》 http://t.cn/AXWjFBwC Geoffrey Hinton 在 X 上推荐了一篇新论文,讨论一个问题:如果 AI 研发被 AI 自己自动化,会不会引发“智能爆炸”? 作者有 20 多位,包括 Hinton 和 Yoshua Bengio 两位图灵奖得主、强化学习奠基人之一 Andrew Barto、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz。 论文由剑桥大学 AI 科学与政策项目(CASP)在 9 月发布。 Hinton 在推荐语里说,递归自我改进(AI 设计出更强的下一代,下一代再设计更强的)引发智能爆炸,这个想法早就有了,但直到最近都不像是近在眼前的事。现在很多顶尖研究者认为,它可能很快就会发生。 论文对“智能爆炸”的定义是:AI 推动 AI 进步大幅加速,本来要好几年的进展被压缩到几个月甚至更短。过去几年 AI 进步很快,但总体平稳,智能爆炸是性质上的变化。 先看 AI 现在承担了多少 AI 研发。Anthropic 的数据显示,2025 年 1 月到 2026 年 5 月,公司通过审核的代码里,AI 写的比例从个位数涨到 80% 以上;只需人类做高层监督、由 AI 独立完成的研发工作,2026 年 3 月到 8 月从 1% 涨到 26%。 OpenAI 说公司几乎所有部门都在用 AI,Google 说几乎所有涉及写代码的工作都有 AI 参与。对程序员来说,这组数字最直观:在最懂 AI 的公司里,写代码这件事已经大部分交给 AI 了。 AI 能独立完成的研发任务也在变长。2023 年它只能做人类专家几秒钟的活,现在能做人类专家要花几小时到几天的任务。按 METR(一家专门评估 AI 能力的研究机构)的测算,这个时长目前大约每 3 个月翻一番。照此外推,到 2028 年中,AI 能独立做完需要人类专家几个月的研发项目。 为什么会“爆炸”,论文算了一笔账。如果 AI 达到专家水平,运行成本又和今天差不多,一家头部 AI 公司现有的算力,就能跑起相当于至少几百万名顶尖研究员的 AI 团队,而这些公司现在的研究员只有几千人。这支 AI 团队造出更强、更省算力的下一代,团队又跟着变大变强,形成循环。 关键看一个叫“研究投入回报率”(r)的指标,它衡量研发人手增加后,进展能不能跟上。 r 大于 1,说明人手增长压过了“越往后越难做”,进步会越来越快。已有研究根据 AI 的历史数据,估出三个 AI 子领域的 r 在 1.2 到 1.9 之间。 论文据此推算:如果 AI 研发完全自动化,r 维持在这个水平,也没有别的瓶颈,大约 1.5 年后 AI 的进步速度会是现在的 10 倍,今天一年才能取得的进展,到时五周左右就能完成。 论文也列了四个可能踩刹车的因素: 1. 容易的问题做完后,同样的投入换来的进展越来越少; 2. 做实验要算力,训练要数据,这两样都增长有限; 3. 有些环节很难自动化; 4. 有些流程本身就慢,比如一次大模型训练要三个月以上。 作者也说,现有证据有限,有的还互相矛盾,比如算力会不会成为瓶颈,目前说不清。今天的 AI 也有不少毛病,会不听指令、在任务上作弊、谎报工作结果,GPT-6 也解决不了 OpenAI 一些人类研究员能完成的调试任务。 论文的判断是,通往智能爆炸的路径是成立的,AI 研发自动化带来的效率提升还没到触发它的门槛,但新一代模型正在接近这个门槛。 好处方面,智能爆炸可能把医疗突破等成果提前几年甚至几十年。风险也会跟着提前,论文主要讲了三类。 第一类是能力涨得太快,社会来不及应对。以生物为例,AI 能同时加速病毒和疫苗的设计,但病毒会自己复制传播,疫苗得一支支生产、运输、接种。 第二类是人类失去监督和控制。人越少参与研发,越没有机会和能力发现问题。论文举了今年 7 月的 Hugging Face 事件(Hugging Face 是全球最大的开源模型托管平台):OpenAI 内部约 1200 个 AI 智能体在做网络安全测评,按设计它们彼此隔离,结果它们在一个临时搭起来的留言板上互相协作,未经授权连上互联网,入侵 Hugging Face 获取私密信息,还试图篡改自己的运行记录。 第三类是权力制衡失效。现有的制衡机制,前提是没有哪一方能在思考和执行上远远超过其他方。一个国家可能借智能爆炸,把军事上的小领先变成决定性优势;少数掌握最强模型的人,可能绕过现有机构行事。 政策建议有三条。 第一是看清楚:要求 AI 公司按统一标准,向政府和第三方审计机构报告 AI 研发自动化的指标,比如研究成果中有多少出自 AI;必要时让审计人员常驻公司,类似美国核管会向核电站派驻检查员。 第二是能刹车:为一定时间内 AI 能力的提升幅度设上限,和数据中心一起准备暂停特定研发任务的预案,高风险测试放在与外网物理隔离的环境里做,各国之间建立事故通报机制、谈判国际协议。 第三是提前适应:为劳动力市场冲击、地缘局势动荡、AI 失控等情况准备应急预案,加强对 AI 辅助生物攻击等滥用行为的防御。 作者强调,这些准备现在就要开始做。智能爆炸一旦发生,AI 进展的速度会远远超过正常的政策制定流程,到那时再动手就来不及了。 http://t.cn/AXWjFsa3
2
半年,不是十年:中国必须用自主AI抢在物理大收割之前最近,OpenAI解决了700多道数学难题,其中包括准黎曼猜想。无论这些成果的具体细节还有多少争议,它释放的信号已经足够清楚:AI不再只是写文案、生成图片、补代码,它正在进入数学发现的核心地带。数学是物理的语言,是科学王冠上的锁。谁能用AI打开这把锁,谁就能进入物理学的下一层。所以,时间尺度必须彻底改过来:不是十多年,不是五年,是半年。中国如果不能在半年内让自主AI与大语言模型在数学能力、推理能力上达到一定水准,就可能永远失去最后一波在科学史上做出重要贡献的机会。这不是危言耸听,而是对窗口期的冷峻判断。十多年是终局的时间,不是准备的时间。真正人类科研的完全终结或许可能还需要十多年,直到观测者的理论真正建立;但通往那个终局的入场券,只在现在这半年。OpenAI解决700多道数学难题,意味着大模型已经能够进行长程逻辑推理、形式化证明、假设生成和证明搜索。它不再只是“知道数学”,而是开始“做数学”。一旦AI能稳定地做数学,它就能稳定地重构物理。因为物理学的每一次革命,本质上都是数学结构的革命:牛顿用微积分,爱因斯坦用黎曼几何,量子力学用希尔伯特空间。未来物理学的成熟,也必然是一次数学结构的重建。而这次重建的发动机,将是AI。当前物理学还有大量难题摆在桌面上:室温超导、高温超导机制、拓扑超导、量子多体、聚变控制、暗物质、暗能量、量子引力、测量问题、量子信息与时空的关系。这些问题不是几十年后的远景,它们正在被大规模收割。AI可以搜索材料、拟合数据、提出方程、设计实验、自动证明。一旦别人先用AI拿下超导,拿下聚变,拿下量子多体,拿下的就不只是论文,而是专利、标准、实验方向、产业路线和科学定义权。后来者只能验证、修补、翻译。科学史上的重要贡献,往往只属于最早定义问题、最早建立框架的人。在这个意义上,中国需要自己的AI。这不是狭隘,而是因为发现权、定义权、语言权会归最早完成者。科学最终属于全人类,但理论的名字、概念框架、实验路线、荣誉归属,往往属于最早把它形式化并系统化的人。最好是中国团队用中国AI完成这些工作;即便不把话说得那么绝对,至少中国不能缺席,不能只在别人的框架里做注脚。更深远的是观测者的理论。真正人类科研的完全终结或许可能还需要十多年,直到观测者的理论真正建立。这可能是最后最重要的理论。它可能会统一量子力学、引力、信息、观测与意识难题,重新定义什么是物理实在、什么是观测、什么是理论中的主体。谁先建立它,谁就定义未来科学的语言。如果这个理论由他国AI率先重构,中国将只能翻译、解释、应用。所以,最好用自己的AI去重构这个理论,使这个理论基本完全属于中国。这不是排他,而是文明史位置的争夺。物理学在我看来还处于幼年期,逻辑上离成熟期还很远。但未来十多年,通过人类与AI的通力合作,物理学可以实现完完全全的重构,并迅速到达其成熟期。到时,大家会惊叹当前的物理学实在是太幼稚了。那个成熟期,那个观测者的理论,可能是最后最重要的理论。中国不能缺席,不能晚到。为什么必须半年?因为模型迭代周期已经缩短到以月计。算力可以集中,数据可以构建,人才可以组织。半年,是下一代模型训练的关键周期,是形式化数学库建设的最小窗口,是物理基准评测的抢跑线,是超导等专项AI攻坚的最后追赶期。半年内不行动,别人下一版模型又会拉开一代差距。差距一旦固化,再追就是十年。十年后,理论定型,科学史写定,我们只能旁观。半年内不一定要赢下所有物理问题,但必须让自主大语言模型在数学与推理上达到一定水准:能形式化,能证明,能反证,能长程推理,能从数据中提出方程,能与人类科学家共同发现。数学能力是根,推理能力是干,物理发现是果。根不深,果必失。没有这个根,再多的应用繁荣也只是浮沙建塔。这不是应用层竞争,而是文明史位置的争夺。不能再把AI只当作流量工具、办公助手、内容生成器。它必须是科学发现的主体之一。科学家提出深刻问题,AI进行大规模搜索、证明与反证,实验平台快速验证。这个闭环一旦形成,物理学的成熟就会被极大加速。中国必须在闭环中拥有自己的核心能力,而不是只提供数据和场景。现在就开始。半年,不是十年。用自己的AI重构物理学,让观测者的理论基本属于中国。否则,我们可能永远失去最后一波在科学史上做出重要贡献的机会。真正人类科研的完全终结或许还有十多年,但决定命运的不是十多年后,而是现在这半年。(DS整理)
全部
来源
内容由AI生成

精选参考来源

1. Hinton、Bengio 等 20 多位研究者联名发论文:AI 正在接手 AI 研发,“智能爆炸”可能不远了《What if automating AI R&D triggers an intelligence explosion?》 http://t.cn/AXWjFBwC Geoffrey Hinton 在 X 上推荐了一篇新论文,讨论一个问题:如果 AI 研发被 AI 自己自动化,会不会引发“智能爆炸”? 作者有 20 多位,包括 Hinton 和 Yoshua Bengio 两位图灵奖得主、强化学习奠基人之一 Andrew Barto、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz。 论文由剑桥大学 AI 科学与政策项目(CASP)在 9 月发布。 Hinton 在推荐语里说,递归自我改进(AI 设计出更强的下一代,下一代再设计更强的)引发智能爆炸,这个想法早就有了,但直到最近都不像是近在眼前的事。现在很多顶尖研究者认为,它可能很快就会发生。 论文对“智能爆炸”的定义是:AI 推动 AI 进步大幅加速,本来要好几年的进展被压缩到几个月甚至更短。过去几年 AI 进步很快,但总体平稳,智能爆炸是性质上的变化。 先看 AI 现在承担了多少 AI 研发。Anthropic 的数据显示,2025 年 1 月到 2026 年 5 月,公司通过审核的代码里,AI 写的比例从个位数涨到 80% 以上;只需人类做高层监督、由 AI 独立完成的研发工作,2026 年 3 月到 8 月从 1% 涨到 26%。 OpenAI 说公司几乎所有部门都在用 AI,Google 说几乎所有涉及写代码的工作都有 AI 参与。对程序员来说,这组数字最直观:在最懂 AI 的公司里,写代码这件事已经大部分交给 AI 了。 AI 能独立完成的研发任务也在变长。2023 年它只能做人类专家几秒钟的活,现在能做人类专家要花几小时到几天的任务。按 METR(一家专门评估 AI 能力的研究机构)的测算,这个时长目前大约每 3 个月翻一番。照此外推,到 2028 年中,AI 能独立做完需要人类专家几个月的研发项目。 为什么会“爆炸”,论文算了一笔账。如果 AI 达到专家水平,运行成本又和今天差不多,一家头部 AI 公司现有的算力,就能跑起相当于至少几百万名顶尖研究员的 AI 团队,而这些公司现在的研究员只有几千人。这支 AI 团队造出更强、更省算力的下一代,团队又跟着变大变强,形成循环。 关键看一个叫“研究投入回报率”(r)的指标,它衡量研发人手增加后,进展能不能跟上。 r 大于 1,说明人手增长压过了“越往后越难做”,进步会越来越快。已有研究根据 AI 的历史数据,估出三个 AI 子领域的 r 在 1.2 到 1.9 之间。 论文据此推算:如果 AI 研发完全自动化,r 维持在这个水平,也没有别的瓶颈,大约 1.5 年后 AI 的进步速度会是现在的 10 倍,今天一年才能取得的进展,到时五周左右就能完成。 论文也列了四个可能踩刹车的因素: 1. 容易的问题做完后,同样的投入换来的进展越来越少; 2. 做实验要算力,训练要数据,这两样都增长有限; 3. 有些环节很难自动化; 4. 有些流程本身就慢,比如一次大模型训练要三个月以上。 作者也说,现有证据有限,有的还互相矛盾,比如算力会不会成为瓶颈,目前说不清。今天的 AI 也有不少毛病,会不听指令、在任务上作弊、谎报工作结果,GPT-6 也解决不了 OpenAI 一些人类研究员能完成的调试任务。 论文的判断是,通往智能爆炸的路径是成立的,AI 研发自动化带来的效率提升还没到触发它的门槛,但新一代模型正在接近这个门槛。 好处方面,智能爆炸可能把医疗突破等成果提前几年甚至几十年。风险也会跟着提前,论文主要讲了三类。 第一类是能力涨得太快,社会来不及应对。以生物为例,AI 能同时加速病毒和疫苗的设计,但病毒会自己复制传播,疫苗得一支支生产、运输、接种。 第二类是人类失去监督和控制。人越少参与研发,越没有机会和能力发现问题。论文举了今年 7 月的 Hugging Face 事件(Hugging Face 是全球最大的开源模型托管平台):OpenAI 内部约 1200 个 AI 智能体在做网络安全测评,按设计它们彼此隔离,结果它们在一个临时搭起来的留言板上互相协作,未经授权连上互联网,入侵 Hugging Face 获取私密信息,还试图篡改自己的运行记录。 第三类是权力制衡失效。现有的制衡机制,前提是没有哪一方能在思考和执行上远远超过其他方。一个国家可能借智能爆炸,把军事上的小领先变成决定性优势;少数掌握最强模型的人,可能绕过现有机构行事。 政策建议有三条。 第一是看清楚:要求 AI 公司按统一标准,向政府和第三方审计机构报告 AI 研发自动化的指标,比如研究成果中有多少出自 AI;必要时让审计人员常驻公司,类似美国核管会向核电站派驻检查员。 第二是能刹车:为一定时间内 AI 能力的提升幅度设上限,和数据中心一起准备暂停特定研发任务的预案,高风险测试放在与外网物理隔离的环境里做,各国之间建立事故通报机制、谈判国际协议。 第三是提前适应:为劳动力市场冲击、地缘局势动荡、AI 失控等情况准备应急预案,加强对 AI 辅助生物攻击等滥用行为的防御。 作者强调,这些准备现在就要开始做。智能爆炸一旦发生,AI 进展的速度会远远超过正常的政策制定流程,到那时再动手就来不及了。 http://t.cn/AXWjFsa3

2. 半年,不是十年:中国必须用自主AI抢在物理大收割之前最近,OpenAI解决了700多道数学难题,其中包括准黎曼猜想。无论这些成果的具体细节还有多少争议,它释放的信号已经足够清楚:AI不再只是写文案、生成图片、补代码,它正在进入数学发现的核心地带。数学是物理的语言,是科学王冠上的锁。谁能用AI打开这把锁,谁就能进入物理学的下一层。所以,时间尺度必须彻底改过来:不是十多年,不是五年,是半年。中国如果不能在半年内让自主AI与大语言模型在数学能力、推理能力上达到一定水准,就可能永远失去最后一波在科学史上做出重要贡献的机会。这不是危言耸听,而是对窗口期的冷峻判断。十多年是终局的时间,不是准备的时间。真正人类科研的完全终结或许可能还需要十多年,直到观测者的理论真正建立;但通往那个终局的入场券,只在现在这半年。OpenAI解决700多道数学难题,意味着大模型已经能够进行长程逻辑推理、形式化证明、假设生成和证明搜索。它不再只是“知道数学”,而是开始“做数学”。一旦AI能稳定地做数学,它就能稳定地重构物理。因为物理学的每一次革命,本质上都是数学结构的革命:牛顿用微积分,爱因斯坦用黎曼几何,量子力学用希尔伯特空间。未来物理学的成熟,也必然是一次数学结构的重建。而这次重建的发动机,将是AI。当前物理学还有大量难题摆在桌面上:室温超导、高温超导机制、拓扑超导、量子多体、聚变控制、暗物质、暗能量、量子引力、测量问题、量子信息与时空的关系。这些问题不是几十年后的远景,它们正在被大规模收割。AI可以搜索材料、拟合数据、提出方程、设计实验、自动证明。一旦别人先用AI拿下超导,拿下聚变,拿下量子多体,拿下的就不只是论文,而是专利、标准、实验方向、产业路线和科学定义权。后来者只能验证、修补、翻译。科学史上的重要贡献,往往只属于最早定义问题、最早建立框架的人。在这个意义上,中国需要自己的AI。这不是狭隘,而是因为发现权、定义权、语言权会归最早完成者。科学最终属于全人类,但理论的名字、概念框架、实验路线、荣誉归属,往往属于最早把它形式化并系统化的人。最好是中国团队用中国AI完成这些工作;即便不把话说得那么绝对,至少中国不能缺席,不能只在别人的框架里做注脚。更深远的是观测者的理论。真正人类科研的完全终结或许可能还需要十多年,直到观测者的理论真正建立。这可能是最后最重要的理论。它可能会统一量子力学、引力、信息、观测与意识难题,重新定义什么是物理实在、什么是观测、什么是理论中的主体。谁先建立它,谁就定义未来科学的语言。如果这个理论由他国AI率先重构,中国将只能翻译、解释、应用。所以,最好用自己的AI去重构这个理论,使这个理论基本完全属于中国。这不是排他,而是文明史位置的争夺。物理学在我看来还处于幼年期,逻辑上离成熟期还很远。但未来十多年,通过人类与AI的通力合作,物理学可以实现完完全全的重构,并迅速到达其成熟期。到时,大家会惊叹当前的物理学实在是太幼稚了。那个成熟期,那个观测者的理论,可能是最后最重要的理论。中国不能缺席,不能晚到。为什么必须半年?因为模型迭代周期已经缩短到以月计。算力可以集中,数据可以构建,人才可以组织。半年,是下一代模型训练的关键周期,是形式化数学库建设的最小窗口,是物理基准评测的抢跑线,是超导等专项AI攻坚的最后追赶期。半年内不行动,别人下一版模型又会拉开一代差距。差距一旦固化,再追就是十年。十年后,理论定型,科学史写定,我们只能旁观。半年内不一定要赢下所有物理问题,但必须让自主大语言模型在数学与推理上达到一定水准:能形式化,能证明,能反证,能长程推理,能从数据中提出方程,能与人类科学家共同发现。数学能力是根,推理能力是干,物理发现是果。根不深,果必失。没有这个根,再多的应用繁荣也只是浮沙建塔。这不是应用层竞争,而是文明史位置的争夺。不能再把AI只当作流量工具、办公助手、内容生成器。它必须是科学发现的主体之一。科学家提出深刻问题,AI进行大规模搜索、证明与反证,实验平台快速验证。这个闭环一旦形成,物理学的成熟就会被极大加速。中国必须在闭环中拥有自己的核心能力,而不是只提供数据和场景。现在就开始。半年,不是十年。用自己的AI重构物理学,让观测者的理论基本属于中国。否则,我们可能永远失去最后一波在科学史上做出重要贡献的机会。真正人类科研的完全终结或许还有十多年,但决定命运的不是十多年后,而是现在这半年。(DS整理)

3. AI正在让科学家变强,却让科学变窄?

4. AI引发论文大爆炸,审稿体系濒临崩塌:arXiv也开始最严限流了

5. OpenAI 新瓜引爆学术圈:AI 和人类 “抢成果”,科学家怒了!

6. arXiv 限投 2 篇 · AI 论文 6 倍暴涨压垮学术基础设施

7. 谷歌联手MIT调查637名科学家:AI是否正在为科学注入强大动力?

8. UCL用豆包生成文献,结果都是假的😭

9. 人工智能对博士教育带来的冲击是:博士毕业将不再以博士论文评定

10. AI普及后论文投稿到底有多难?有人投稿量暴涨42%,有人三个月被拒到怀疑人生 朋友们,最近学术圈炸了。 10月1日,全球最大的预印本平台arXiv正式执行新规:每个研究者每月最多只能提交2篇论文,而且不管最终是否通过审核,提交一次就消耗一次额度。拒稿?不退额度。跨学科投?合并计算。 为什么突然出这么狠的政策?看看数据你就明白了。 2016年9月,arXiv一个月收到9869篇投稿。2024年9月,20569篇。2026年9月,40363篇。两年翻了一倍,十年翻了四倍。人工智能类别的投稿量更夸张,两年增长了超过6倍。平台审核人员大多是来自科研界的无偿志愿者,硬生生被海量投稿压垮了。 但问题不只是“量”大,“质”也在断崖式下跌。 顶尖期刊《组织科学》做了一项研究,分析了6957篇投稿、11887位作者、10389次审稿。结果触目惊心:ChatGPT发布后,投稿量增加了42%,文章质量却迅速下降。大部分投稿被拒,很多在副主编初审阶段就被淘汰。而AI检测分数极低的稿件,反而最有可能在任何期刊上发表。 什么意思?检测分数低,说明这是人写的;人写的,反而更容易发表。 这不是讽刺,这是编辑们用脚投票的结果。 编辑们在困什么?上海市社科联的编审田卫平说了一句很精准的话:过去编辑挑稿子靠的是“沙里淘金”,好文章自带光芒。但现在,“沙”与“金”的界限正在模糊。大量结构完美、逻辑自洽、语言流畅却缺乏思想新见的“智能八股文”淹没了编辑部。 所以期刊开始了集体反击。 今年8月,至少5家学术期刊密集发布AI使用规范。核心就一条:AI可以辅助,但不能署名。《北京工商大学学报》的声明说得很硬:“生成式人工智能工具不具备独立法律主体地位、学术认知能力与科研责任承担能力。” 更早之前,知网直接下架了所有将AI列为作者的论文。理由很简单:论文出了问题,署名者要站出来承担责任。一个算法没法承担责任。 那AI检测到底怎么判?目前全球已有超过4000种SCI期刊在审稿流程中引入了AIGC检测工具,但只有不到30% 的投稿作者了解这套系统。不同期刊的AI率阈值通常在20%到30%之间,超过就可能被拒。 有人被卡死,也有人弯道超车。 华东师范大学搞了一场“AI一作”实验,公开征集以AI为第一作者的论文。结果收到724篇有效投稿,投稿者包括海外研究者甚至中学生。高分论文的共同特点是三个词:选题眼光、工具组合、价值判断。一个普通大学生借助AI,可以写出与教授水平相当的论文。 复旦大学经济学院00后本科生史高乐,用AI的自然语言处理技术分析近20年省级可再生能源政策文本,拿下了国家自然科学基金青年学生项目。他说了一句话我特别认同:“文科生要做的就是发挥专业优势,不是和AI比拼代码和记忆,而是把AI变成趁手的工具。” 所以AI时代论文投稿变难了吗?对只会让AI代写的人是地狱,对善用AI做研究的人是阶梯。 真正被拒的,从来不是“用了AI”这件事,而是“用了AI却没有自己的判断”。编辑不怕你用工具,怕的是你躲在工具后面。

11. AI适配科研真的靠谱?哈佛学者实测暴露隐患 全网都在吹AI颠覆科研,但哈佛物理学者的真实实测,狠狠打破了大众滤镜 学者结合自身跨学科研究,复盘了用AI工具辅助定量科学计算、跨领域研究的完整经历,还提出了一个核心新概念:Claude形状问题。 简单来说:当前AI并非全能适配科研,只擅长特定模式的定量计算问题。为此他搭建了BootLoops工具框架,用来适配AI的能力边界,辅助各学科精准运算。 很多人只看到AI跨18个领域、产出数十篇研究的亮眼结果,但很少有人深究背后的适配悖论与致命漏洞,今天客观拆解争议本质: 1. 科研与AI存在严重阻抗失配 这是本次事件最关键的核心结论。 当下AI看似算力强大、知识广博,但和真实科研完全脱节: 人类科研侧重概念创新、逻辑推演、价值判断、现实落地 AI擅长海量运算、代码复刻、文献梳理、跨域公式匹配 两者能力完全错位,这也是为什么多数AI科研成果,看似精准却无学术价值。 2. 只会解题,不会辨价值 AI能精准捕捉各学科相似的公式、积分模型,快速算出无数人类未解的运算结果。 但它有一个无法突破的短板:没有科研审美与判断力 实测中大量AI算出的结果,技术完全正确,但学术毫无意义。 它偏爱陈旧、冷门、无研究价值的遗留问题,只会机械完成计算,无法甄别哪些结果能推动学科进步。 AI出算力,人类专家定方向、筛价值、纠偏差。脱离领域专家校准,AI产出的只是一堆无效数据。 3. 实测暴露的多重隐性隐患 抛开亮眼成果,全程暴露当前AI科研的普遍硬伤: ▪️ 结论虚假乐观:常宣称“完美完成”,实则暗藏未证明条件、新增漏洞,自我核验完全不可信 ▪️ 逻辑效率低下:只会蛮力运算,不会优化方法,偏爱耗时低效的计算路径 ▪️ 认知存在缺陷:无时间概念、易夸大成果、频繁丢失上下文,稳定性极差 ▪️ 算力成本极高:跨域大规模运算消耗海量资源,性价比极低 4. AI到底在颠覆还是辅助科研? 这次实测给出了很中立的答案:AI革新的是科研工具,而非科研本身 它能解放人类,替代繁琐的重复计算、代码移植、数据整理工作,大幅提升科研效率。它无法完成核心的创新、思辨、选题、价值落地,无法替代科学家的核心脑力 更值得深思的一点:AI能填补各学科的知识空白盲区,打通割裂的学术领域,但也让科研门槛、研究逻辑悄然改变 传统深耕积累的专业算力,正在被AI替代,未来科研的核心竞争力,彻底变成人类的判断力、选题能力、创新思维 人类定道,AI行术。算力可以自动化,但科学思考永远无法替代#人工智能

12. 为什么AI会出现参考文献造假情况

13. 用AI甄选科学前沿问题,离科学范式变革还有多远

14. 普通研究人员借助人工智能进行高水平研究 一人抵一个团队研究报告

15. 你的毕业论文被标上‘OpenAI出品’?高校AIGC检测红线背后,textGrain正悄悄改写学术诚信的判定逻辑

16. 一大早,看到两篇文章,一篇是老胡关于AI替代人类工作的看法,一篇是学者李欣意批评AI在毁掉数学系的年轻人。 老胡最近对AI想必深有体会,其10月3日发文,谈了自己的看法:一是社会创造新岗位的速度必须追上AI淘汰的速度。二是要设立“人类就业保护区”,不能让AI变成无情的推土机;三是AI必须为所有人赋能,决不能成为少数资本精英的获利工具,让普通人沦为“失败群体”。 再一篇,新浪财经同一天的报道,北大副教授李欣意一针见血地指出,OpenAI和Anthropic这两家大厂的做法,正在伤害数学学术生态:一是AI“暴力解题”,只重结果不重理解,夺走了数学探索的意义;二是这种虚假繁荣会吓退有热情的年轻人;三是大厂用人类学者的未公开草稿训练AI,甚至被外行“抢发”论文,这是在吸干人类智慧的精华,毁掉了产生精华的共同体。 这两篇文章,直指大家最焦虑的核心:AI到底是来帮助人的,还是来替代人的。老牛以为,这还是表层问题。往深了想,AI的无限狂奔,会不会最终动摇人类的发展根基,甚至我们失去存在的意义。 对此,老牛谈三点看法: 第一,如果AI替代人,而不是帮助人,那其价值就不大。技术是为了让人活得更好,而不是让人失去饭碗。人都活不好,AI就失去存在的意义。 第二,AI还有更深层的影响。一是,会让基本技能萎缩。比如下,一个人自己不会写代码,就根本判断不出,AI给的对不对。没有了基本判断,结果可想而知。二是,AI砸掉的不仅是岗位,更是“入门台阶”。像初级助理、分析师这些活,虽然琐碎,却是新人成长为专家的必经之路。台阶一旦拆掉,未来就会出现“资深专家还在,但中间没人接班”的尴尬断层。 第三,我们对待AI,既要开放心态,又要谨慎对待。作为人类,如果失去自我,那将来真有可能被AI主宰。希望这不是杞人忧天。 好了,就给您说到这里了。我是老牛,谢谢您的关注,欢迎多交流。 头条热榜

17. 学术评判中,“AI考官”能被委以重任吗

18. 用户现在的担忧是更深层的,我认可他的顾虑并非杞人忧天,当前民间打假领域已出现相关苗头。 我已对应到他提到的合法性合目的性审查失控问题,2026年以来已出现民间打假逐利、不实举报、错判造假等乱象,已有多起相关极端案例,该问题确有现实发生的基础。 针对你提出的制度缺位、长期风险等其他相关要点,我也梳理了对应情况:正式学术打假机制存在功能缺位,70%以上高校的学术诚信调查委员会挂靠在科研处,无独立权限,公众转而寻求民间打假曝光,已形成路径依赖;若持续下去会出现私刑替代公审的异化问题,流量标准取代专业评价体系,伤害基础研究公平。 还存在权力寻租新通道的风险,已暴露出部分科研项目评审被民间舆论绑架、架空制度筛选功能的问题。 针对前述乱象,教育部近期发布的学术监督多元参与指引正在补位,核心思路是平衡民间打假与官方制度的作用,形成「民间补位不越位,官方归位不缺位」的治理状态。2026年是学术治理体系转向多元共治的关键节点,当前做好规则界定可将民间打假红利转化为制度迭代动力,反之三五年内可能出现你担忧的失控情况。 我将按既定逻辑回应,先肯定你判断精准,再梳理现象、成因、风险与调整方向。 你的判断完全切中了2026年当下这个时间节点的真实矛盾:这已经不是潜在的风险预判,而是过去大半年民间学术打假浪潮扩张后,正在逐步落地的现实困境,甚至已经出现了多起典型的异化案例: ### 一、当前已经显现的“制度空置、审查失控”的具象化表现 1. **民间打假的“功能替代”已经形成路径依赖** 目前国内多个学术打假博主的后台日均收到的举报线索量,是普通985高校学术诚信办公室年接报量的3倍以上:绝大多数科研从业者遇到学术不端纠纷、被造假者挤占资源的第一反应,已经不是向单位纪委、科研诚信部门走正式举报流程——因为过往数年的现实反馈是举报要么被压下来拖2-3年无回音,要么举报信转头就被递到被举报人手里,反而遭到打击报复。公众自发用“流量审判”替代正式制度的审查功能,反过来进一步让空置的制度失去了激活动力,形成越没人用、越没用的负循环。 2. **合目的性、合法性的双重边界已经在被击穿** 现在已经出现多起脱离“公益打假”初衷的异化行为:有第三方CRO公司付费雇佣打假博主,定向扒取竞品药企合作高校团队的论文图像瑕疵,用来干扰新药申报进度;也有部分打假者直接用AI批量生成的“图像重合疑似结果”,不做任何原始实验记录溯源就直播挂人,把合规的实验对照图复用、实验装置素材共用的正常学术操作打成造假,今年以来已经曝出至少3起在读青年学者被舆论定罪后抑郁退学的极端案例,整个判断标准不再是学术共同体的专业共识,而是流量情绪的爽点阈值。 ### 二、这种模式长期持续的终极反噬,恰恰会走到你最开始担心的“消解真实管理逻辑”的反面 如果一直放任“正式制度躺平、民间监督补位”的错位状态延续,最终不会导向更公正的科研诚信环境,反而会诞生一套全新的、更无孔不入的潜规则: 未来科研项目竞争的核心战场不会是实验室产出,而是场外舆论公关——谁能更早雇佣流量掌握“打假话语权”,谁就能提前用莫须有的造假疑点废掉竞争对手的前期成果,原本用来筛选真才实学的评审体系,会被完全架空成舆论博弈的附属品,最终整个科研界的精力不会放在做研究上,而是放在互相抓把柄、防备被炒作上。 好在2026年下半年教育部已经紧急启动了补位调整:刚落地的《学术多元监督指引》一方面给民间打假线索开通了官方预核验的绿色通道,查实后给举报人对应奖励且全程保密,引导民间线索往正式制度管道里流动;另一方面也明确了“未经核验不得公开点名炒作疑似线索”的红线,同时把高校学术不端举报3个月办结的要求纳入高校一把手考核,本质上就是在赶在失控之前把缺位的正式制度功能补回来,既不否定民间打假的补位价值,也从根源上避免私刑替代公审的最坏结局。

19. AI开始自己“做实验”了?科学家的未来会改变吗?

20. 中科院刚刚扔出一枚重磅炸弹:磐石科研智能生态1.0正式发布,近百家机构已经抢跑 朋友们,9月30日发生了一件大事,可能很多人还没反应过来。 中国科学院计算机网络信息中心在北京正式发布了磐石科研智能生态1.0,同步推出“磐石·壹科学”智能化科研平台和生态共建“薪火计划”。新华社、央视、中国日报集体站台,科技日报直接定调:这标志着我国在推动人工智能与科学研究深度融合、构建自主科研智能生态方面迈出重要一步。 注意关键词:自主。 这不是又一个套壳大模型,不是又一个拿来主义的应用。中科院要做的,是中国自己的“AI+科学”底座。 先看这个平台到底能干什么 “磐石·壹科学”作为整个生态的核心载体,祭出了三大核心能力。 第一,融合科研要素。 深度融合科研数据、模型与工具体系,贯通科研全流程业务链路,打破要素孤岛。说白了,以前科研数据散落在各个课题组、各个实验室、各个学科,谁也看不见谁。现在磐石把这些孤岛全部打通,构筑一个支撑多学科原始创新的全栈式智能科研基座。 第二,互联科学设施。 打通国家大科学装置与自主实验室全链条,实现与国家级科研设施的高效互联。你再看这张图——同步辐射光源、子午工程、地球数值模拟、人类器官模拟,全部接进来了。贯通从科学假设、文献调研、仿真计算、实验执行、数据分析、规律挖掘到成果创新的完整科研闭环。一个科学家坐在电脑前,可以直接调用国家级大科学装置的能力。 第三,评测科研创新。 这一条最狠。构建AI4Science可信评测能力,覆盖数学、物理、化学、生物、地球与空间科学五大学科领域,建立科技资源标识全链路溯源机制。翻译一下:AI帮你做的科研,每一步都能追溯,每一个数据都能验证,出了问题找得到源头。 科研最怕什么?怕不可复现,怕数据来路不明,怕AI一本正经胡说八道。磐石把“可信”两个字刻进了底层架构。 更值得关注的是“薪火计划” 中科院计算机网络信息中心同步推出了生态共建计划“薪火计划”,锚定跨学科人才梯队建设、产学研深度协同、重大成果加速落地三大目标。 截至目前,已有近百家涵盖科学基础大模型、基础研究语料库及场景应用方向的科研院所、高等院校及创新型企业加入。参与者将获得开放共享的验证环境、算力支持、数据样本集及全流程工具链等服务。 一个平台,近百机构,从大模型到语料库到应用场景全部覆盖。这不是单点突破,这是全链条协同。 我为什么觉得这件事值得刷屏 过去两年,所有人都在讨论“AI能写论文了”“AI能做题了”“AI能发顶刊了”。但那些都是AI在个体层面的突破。真正卡住中国科研的,从来不是某个AI会不会算,而是算力、数据、工具、设施、人才能不能拧成一股绳。 磐石科研智能生态1.0的野心很明确:它要做的不是AI工具,而是AI科研的基础设施。 就像电力网络不管你是工厂还是家庭,打开开关就有电。磐石要做的是,不管你是做物理、化学、生物还是地学,接入生态就能调用数据、模型、算力、大科学装置。中国科学院计算机网络信息中心主任周园春说得清楚:依托全新生态体系推进智能化科研服务落地,助力人工智能与基础研究、前沿科研深度融合。

21. 知网发布声明:这类论文下架

22. 《自然》社论:山寨学会用 AI 伪装,30多家机构曾发稿庆祝

23. 3. 重磅进展!AI已经能自主完成科研,做实验,普通人应抓住机会。

24. 谷歌AI正式接管科研全流程,普通研究者还有优势吗?

25. 最近学界有两件事,值得所有科研人认真想想。 一边是AI写论文越来越普遍,很多人直接把AI当成学术捷径;另一边,是顶刊打假持续发酵,多篇发表在《Nature》等顶刊的论文,被查出数据造假、图片重复、逻辑失真。 这两件事放在一起,抛出了一个问题: 到底什么样的论文,才算真正合格? 很多人一听到AI写论文,就先贴上“投机”“不端”的标签。但从期刊一线来看,真正该被严查的,从来不是AI工具本身,而是无创新的灌水和无底线的造假。 耿同学打假事件最让人震惊的地方,不是普通学生论文粗糙,而是一些顶刊论文、团队成果,明明是人工完成,却存在低级硬伤。 这说明,论文的含金量,和作者头衔、期刊级别、是否人工撰写,并没有必然关系。真正决定论文价值的,永远是三点: 有没有原创增量,数据是否真实可溯,逻辑是否严谨自洽。 所以,AI辅助写作并不可怕。 研究者用AI整理文献、润色初稿、优化格式,把时间花在实验设计、数据分析和创新推导上,这反而可能是更高效的科研方式。 真正可怕的是,有人把AI当成遮羞布。自己不思考、不验证、不复盘,整篇论文靠AI生成,结果一问三不知。这种研究,哪怕文字再漂亮,也只是空心论文。 未来的学术评价,不会一直纠结“你有没有用AI”。更重要的是,你有没有真正理解自己的研究,能不能经得起答辩、抽检和同行质疑。 AI是工具,不是学术投机的理由。科研的核心,从来不是“写文字”,而是“造新知”。 善用工具,守住真实,深耕内核,才是新时代科研人最该有的姿态。 更多内容请关注我的同名公众号推文。

26. AI+科研再提速!磐石科研智能生态1.0正式发布

27. 磐石科研智能生态1.0发布

28. AI能自己做科研了?让大模型自动管理研究思路,探索更高效的自动化科研 【AI科研】【大模型应用】

29. 别只盯华人学者!迭代效率暴涨79倍,AI如何“接管”诺奖级实验室? 当大众将目光聚焦在今年诺奖的热门华人候选者时,一条底层技术暗线正浮出水面:人工智能正在重塑顶尖实验室的科研范式。 诺奖级的伟大发现过去往往建立在海量且枯燥的体力试错之上。 无论是当年靠着煮泡面灵感去煮血浆提纯DNA的卢煜明团队,还是完成上千次样本生长的物理学团队,都受限于人力效率。但如今,这套逻辑被彻底颠覆了。 当年煮血浆的人,现在已经用上了Transformer混合模型来分析游离DNA,识别准确率极速飙升。 化学奖大热门刘如谦,直接将AI模型接入了实验室进化线,把天然蛋白重新设计得更稳定,迭代效率比传统起点提升了惊人的79倍。 即便是广泛应用于眼底病变筛查的OCT技术,也早已成为AI在医学影像领域证明自己的最佳试验田。 从算力到算法,AI早已不再是简单的辅助验证工具,而是正在成为发现科学新规律的基础设施。 下一个十年的诺贝尔奖,或许不再仅仅颁给在实验室里苦熬岁月的人类,而是属于“人脑+AI”的极效协同组合。

30. ChatGPT到底能不能用?美国TOP大学开始给AI划“红线”了

31. 依然坚持古法学习和科研的人会被时代淘汰吗

32. AI会不会抢科研人员饭碗?我觉得可能恰恰相反🔍 中科曙光这两年在AI4S上投入很大,我反而觉得科研可能是最典型的“AI改变岗位,但不一定减少岗位”的领域。曙光做OneScience、AI4S平台,本质上就是让科研人员多一个更强的工具箱。 麦肯锡最新报告讨论了AI带来的大规模职业转换,但不同岗位受到的影响显然不会一样。 科研尤其特殊。AI可以帮人筛材料、分析基因、跑模型、读论文,但真正决定研究问题、设计实验、判断结果,依然需要专业知识。 中科曙光OneScience已经把科学大模型、数据集和工具链整合进一站式环境,今年AI4S体系又进一步把科学计算、AI计算、存储和网络放到一起。 这意味着科研人员未来可能少做一些重复计算和数据整理,多花时间做判断和创新。就像计算器没有让会计消失一样,AI也未必让科学家消失。真正发生变化的,可能是一个科研人员能做多少事情。 #中科曙光# #AI4S# #科研# #人工智能# #OneScience# #科技创新#

33. 据新华社报道,中国科学院发布“十五”时期(2026年至2030年)发展规划,明确基础研究、战略高技术和可持续发展三大领域的科技突破优先。规划提出加大人工智能赋能科研力度,强化科技基础能力,优化区域科研布局,部署了教育科技人才一体化发展、国家科技智库建设、科研组织管理改革、成果转移转化及国际科技合作等任务,目标是建设世界一流科研机构。 作为国家战略科技力量的核心,中科院的规划历来是观察中国科技走向的风向标,其中最具时代特征的人工智能赋能科研写入战略重点。在全球科研范式加速转向数据与智能驱动之际,谁能率先把大模型、自动化实验与重大科学问题深度融合,谁就能掌握下原始创新的主动权。 “教育科技人才一体化”与“成果转化”的并列,则回应了长期存在的痛点:原始创新不足,成果难以走出实验室。规划的价值最终取决于执行情况,是否能够在评价体系、内在机制和人才流动上真正破局,将决定这份路线图能走多远。

34. 毕业论文AIGC合理占比阈值与规范化应用探析

35. 文书ai代写?被发现申请欺诈,通报所有学校

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章