张大妈

姚顺雨腾讯第一篇论文,道破为什么AI死活听不懂人话

源自今日头条:虎嗅APP

02-07 12:29

大模型能解奥数题,却在真实应用中频频翻车。腾讯姚顺雨首篇论文指出,问题不在知识储备,而在学习能力。新基准CL-bench测试显示,顶尖模型解决新任务仅两成成功率,揭示了AI“只会背书不会学”的致命缺陷。

姚顺雨腾讯第一篇论文,道破为什么AI死活听不懂人话智能速览

  • 当前AI鸿沟在于学习能力而非知识多少,像背字典不会写作

  • CL-bench包含500场景1899任务,专测模型从上下文学习新知能力

  • 评测设计防作弊,要求AI现场学习虚构法律、新编程语言等知识

  • 顶尖模型平均成功率仅17.2%,暴露AI不会看、不会想、不会听的短板

  • 归纳推理能力最弱,AI仍停留在照葫芦画瓢阶段

姚顺雨腾讯第一篇论文,道破为什么AI死活听不懂人话精华内容

现在的AI就像背下整本字典的人,却无法阅读一本新书。CL-bench这面镜子,照出了大模型“假学习”的真相。

严苛的考场设计

CL-bench构建了一个包含500个复杂场景、1899个任务的基准测试,旨在考核模型的“上下文学习能力”。其核心设计在于防止模型作弊:所有题目均采用虚构创作(如虚拟国家法律)、现有内容修改(如变动物理定律)或小众新兴内容。这迫使AI必须依靠现场阅读提供的上下文来获取信息并解决问题,无法调用预训练时的死记硬背。消融实验证明,若不提供上下文,最强模型解题率不足1%。

四维能力大考

评测将上下文学习分为四大类,覆盖人类主要学习情境。领域知识推理考“学新概念”,如理解虚拟法律判案;规则系统应用考“守新规矩”,如按新语法写代码;程序性任务执行考“做新流程”,如依无人机文档写伪代码;经验发现与模拟考“找新规律”,如从实验数据推导物理定律。这四项能力要求AI不仅能“懂”,还要能“做”,全面模拟真实工作场景。

惨淡的评测结果

测试结果令人警醒,十个顶尖语言模型平均仅能解决17.2%的任务,表现最好的GPT-5.1也仅有23.7%的成功率。这意味着即便给了完整的操作手册,AI仍有四分之三的概率搞不定。错误分析显示,超过55%的错误源于忽略上下文关键信息,60%源于误用信息,35%连格式都无法遵守。AI本质上仍是“参数推理者”,只擅长调用权重里的静态知识,不擅长动态学习。

范式层面的反思

数据揭示了AI在归纳推理上的断崖式落后,经验发现类任务成功率仅11.8%,远低于演绎推理的25.3%。这表明AI仍停留在“照葫芦画瓢”阶段,远未达到举一反三。论文指出,当前训练范式与真实应用场景存在根本不匹配:实验室考的是封闭静态的“查字典”能力,而真实世界需要的是开放动态的“活学活用”能力。下一代AI不应只追求更大参数,而需进化出真正的自主学习机制。

CL-bench撕开了大模型光鲜成绩单的一角,暴露了其缺乏真实学习能力的软肋。从只会检索的“高级查询系统”进化为能自主学习的“智能体”,才是AI的未来方向。距离真正的智能,我们还有多远要走?

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章