张大妈

姚顺雨腾讯首篇论文:给AI下半场指路“上下文学习”

源自公众号:量子位

02-20 08:30

顶尖模型在考试中屡创佳绩,却在现实任务中频繁失败。一项新研究通过CL-bench基准测试揭示了症结所在:AI缺乏从上下文中实时学习新知识的能力,这正是连接当前模型与未来通用智能的关键桥梁。

姚顺雨腾讯首篇论文:给AI下半场指路“上下文学习”智能速览

  • 姚顺雨提出AI下半场核心在于评估而非单纯堆规模。

  • CL-bench基准测试专用于衡量模型从上下文中学习新知识的能力。

  • 评测结果显示最强模型GPT-5.1 (High)任务解决率仅23.7%。

  • 模型失败主因是忽略或误用上下文,过度依赖预训练知识。

  • 归纳推理任务,如从数据中发现规律,是当前模型的短板。

姚顺雨腾讯首篇论文:给AI下半场指路“上下文学习”精华内容

为何能解奥数的模型,却无法处理一份新工作说明书?CL-bench评测直指AI学习能力的核心短板。

评测的初衷

当前顶尖AI模型是优秀的“解题家”,能通过高难度专业考试,但这不等于能胜任真实工作。研究指出,人类能实时从上下文学习,如开发者查阅新文档或玩家学习新规则,而模型主要依赖预训练的静态“参数化知识”。

这种矛盾在于,我们创造了依赖过去的推理者,但世界需要吸收当下的学习者。因此,需要一种新方法来评估这种真实场景下的学习能力。

严苛的CL-bench

为量化这一差距,团队构建了CL-bench基准,包含500个复杂上下文和1899个任务。其核心原则是:模型必须从上下文中学习到预训练中不存在的新知识才能解决问题。

内容涵盖虚构法律体系、新编程语言、产品工作流等,并采用“无污染”设计,确保测试的是学习能力而非记忆。在不提供上下文时,GPT-5.1 (High)的解决率低于1%,证明了任务的难度和必要性。

集体翻车的结果

评测结果揭示了当前模型的严峻现实:十个前沿模型平均任务解决率仅17.2%,表现最好的GPT-5.1 (High)也仅23.7%。

错误分析显示,失败主因是模型忽略或误用上下文,固执地调用旧知识。尤其在需要从数据中归纳规律的“经验发现”类任务上,模型表现极差,解决率普遍低于10%,结果波动巨大。这表明仅靠增加推理强度无法根本解决问题。

AI下半场的方向

这项研究是姚顺雨“AI下半场”判断的具体实践:与其继续刷榜,不如先搞清楚模型的真实短板。研究证明,即便通过上下文工程准备好信息,模型若不能真正吸收学习,依然会失败。

团队明确了下一步目标:让上下文学习真正走向现实,这正是连接当前模型与未来可靠AI系统的关键一步。

CL-bench的出现为AI发展敲响了警钟,也指明了方向。当模型规模竞赛趋于平缓,如何让AI真正理解和运用新信息,将成为决定其能否走向更广阔应用的关键。未来的突破会来自哪里?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章