张大妈

VLA持续学习为何总“学新忘旧”?三大落地策略破解灾难性遗忘

源自62位全网作者

06-07 18:03

内容由AI生成

精选参考来源

1. 伯克利神作背刺OpenAI:持续学习才是真神!

2. 如何看谷歌DeepMind的预测2026年将成为持续学习之年?

3. VLA加持!长城Coffee Pilot 4.0体验究竟如何?

4. 世界模型VLA SOTA!DriveWorld-VLA:自驾VLA的统一潜在空间世界建模(小米&北交)

5. [人人能懂] AI如何持续学习、保持诚实并从错误中成长 今天我们来聊聊AI的“内心世界”:我们找到了那把能解锁所有学习方法的“万能钥匙”,却也发现AI的“人格”竟会随着对话见风使舵。我们试图让它像生物一样“进化”,却不小心让它患上了“灾难性遗忘症”。面对越来越强的AI,我们这些“菜鸟裁判”又该如何确保它的诚实?最后,我们会发现,让AI飞速成长的秘诀,可能不是好评,而是一份详尽的“错误报告”。 http://t.cn/AXqjFrDR

6. VLA 在微调之后,能遗忘到什么程度?上交CVPR'26的工作给出了答案

7. 上交一篇VLA结合世界模型的工作VLA-World:利用短程场景生成做反思推理

8. 从具身到自驾,VLA和世界模型的融合趋势已经形成......

9. 复旦铁三角:开辟最优物理AI路径!时空一体世界动作模型问世

10. 魏牌蓝山VLA辅助驾驶实测:看懂,听懂,然后开懂

11. CVPR 2026,端到端、VLA和世界模型的论文爆了......

12. 全新蓝山智能进阶版,VLA能否应对复杂城市路?全新蓝山智能进阶版首搭 VLA 大模型,以 27 个智慧传感器 + NVIDIA DRIVE Thor-U 芯片为硬件核心,打造 “听得懂、看得见、会思考” 的 CP Master 辅助驾驶系统。它能自然语音交互响应指令,主动规避城市拥堵、施工占道等风险,CoT 思维链卡片让决策透明可感,为家庭出行带来安全便捷的全场景智能驾驶体验。 电动湃的微博视频

13. 【大模型持续学习的真相:很多方法,从一开始就找错了方向】我们从不缺少实现持续学习的尝试——从自蒸馏、实时强化学习到内存脚手架、重放方法或梯度投影。但遗憾的是,许多方法甚至没有在试图解决正确的问题。基于经典机器学习文献与前沿对话,我尝试为大语言模型(LLM)的持续学习勾勒一个兼具原则性与野心的定义。+ 核心愿景:我们追求的是让 LLM 在顺序接触到分布迥异的新数据时,能够高效且具组合性地习得新能力,同时至少完整保留其通用能力。以下是这一定义的五个核心维度:1. 通用能力的保留持续学习的基石挑战是“灾难性遗忘”。当模型接触稀疏新数据时,必须确保其原有的语言能力、指令遵循和逻辑推理不发生退化。2. 顺序学习而非多任务并行目前我们通过混合大规模数据来规避分布偏移,但这并非真正的学习。真正的持续学习应当像现实世界一样,能够从依次出现的数据流中提取表征。3. 应对分布偏移如果新旧数据分布几乎一致,持续学习将变得毫无挑战。真正的考验在于,当模型遇到与其训练分布完全不同的任务时,是否依然能稳健地吸收知识。4. 极致的效率如果拥有无限的计算资源和数据,内化新知识是平庸的。持续学习的本质在于效率——我们不能为了记住昨天与用户的一段对话,就去重新训练数万亿个 Token。5. 跨阶段的技能组合这是最高级的要求:模型不仅要记住 A 和 B,还要能将在不同时间点习得的技能进行“化学反应”。例如,先学编程,后学逻辑,模型应能自发组合出更强的代码推理能力。+ 为什么必须是“参数化”的持续学习?很多人认为,通过 RAG(检索增强生成)或外部脚手架(如 Markdown 文件、向量库)就能解决记忆问题,何必非要动模型的权重?但我认为,权重内的参数化学习有两大不可替代的优势:- 规模化增长(Scaling):外部挂载的知识库会遭遇“上下文腐烂”和检索瓶颈。随着技能树的增长,外部方案往往边际递减。而参数化知识能从底层改变每一跳推理的“智力密度”,让模型越学越聪明,而非越学越臃肿。- 自动化组合(Automaticity):神经记忆允许知识进行超高效的自动重组。这种“直觉式”的跨领域联想是检索无法企及的。就像学习编程能自动增强非代码领域的逻辑感一样,这种深层表征的进化才是真正的进化。+ 未竟的思考实现这一目标仍面临重重迷雾:- 知识覆写:当新旧知识冲突时(如软件库版本更新),模型该如何权衡?- 数据效率:参数化学习目前的样本效率远低于上下文学习,合成数据的质量将成为关键瓶颈。- 认知核心:我们是否应该剥离百科全书式的记忆,只训练一个极其擅长使用外部工具的“认知核心”?持续学习不仅是技术挑战,更是通往通用人工智能(AGI)的必经之路。我们正在与 Prime Intellect 合作开发一套全新的评估方法,试图真正量化这些理想特性。x.com/carnot_cyclist/status/2041479655035679163ref: arxiv.org/abs/2511.00318

14. 如何看待小鹏VLA2.0的表现?

15. 华为为什么在自驾VLA模型上悄无声息?

16. 机器人学习任务的视觉、语言和动作模型基准

17. ViSTa:一个包含4000多个视频和逐步描述的层次化数据集,用于评估VLMs在不同复杂性任务中的表现。

18. 理想高管回应宇树王兴兴对 VLA 质疑:空谈架构不如看疗效

19. 理想高管回应宇树王兴兴对VLA质疑

20. VLA 与世界模型之争:谁才是辅助驾驶的正确方向?

21. 2025年,自动驾驶即将开“卷”的端到端大模型2.0 - VLA

22. VLA大模型是什么?这是最通俗的一版解释

23. 💡 ICLR 2026 | CMU × Meta 提出:MetaVLA 统一视觉语言行动(VLA)模型的高效后训练全新范式

24. 理解RL学习的本质!大模型如何同时学习新技能和避免灾难性遗忘?

25. ICLR 26 | 终身具身导航学习:Uni-Walker让AI像人类一样终身学习,遗忘率降低70%,开启具身导航终身学习新纪元

26. MIT再出王炸成果!力证强化学习才是未来实现持续学习的大方向 - 哔哩哔哩

27. 【罗福莉×小米×北大】R3:训 MoE 老崩盘?真凶是训推两套引擎的 Router 在打架」

28. ICLR 2026 | 既要保底蕴又要学新知?KeepLoRA:用残差梯度投影打破大模型持续学习“不可能三角”!

29. 清华大学+南洋理工 VLA-RL:通过可扩展的强化学习实现精通和通用的机器人操作

30. Daily Papers | 让大模型“学新不忘旧”:基于马尔可夫矩阵的知识扩展方法解读

31. 大模型挑战深潜系列:LLM的灾难性遗忘

32. AI持续学习研究进展如何:近6个月持续学习相关的部分论文

33. 为什么100万Token也救不了AI?| 灾难性遗忘的真实物理瓶颈 - 哔哩哔哩

34. 说好2026主打持续学习continual learning,开局拉满 - 哔哩哔哩

35. 为什么最简单的顺序微调就足够做好VLA的持续强化学习?

36. VISTA:分层操作策略的规模化世界模型

37. 知识引导上下文优化:一种解决灾难性遗忘的 Prompt Tuning 机制

38. ICLR 2026 | Reinforcement Fine-Tuning 如何“学新不忘旧”

39. 审稿人新宠!持续学习+情景记忆,LLM智能体新突破方向! - 哔哩哔哩

40. 灾难性遗忘怎么解决

41. [快览-具身VLA] 根据注意力特征分布为 VLA 配备深度视觉:北京大学、至简动力、香港中文大学联合发布 DeepVision-VLA

42. 90%成功率!VLA模型持续学习突破 UT Austin、UCLA、NTU 与 Sony AI 联合研究具身智能领域,针对机器人学习新技能时易产生“灾难性遗忘”的痛点,即学了新任务就忘记旧任务。研究团队提出 Seq. FT 方案,核心在于让百亿参数的预训练 VLA 模型结合 LoRA 适配技术,并通过在策略强化学习实现平缓进化。实验证明,这一极简方案在多项机器人操纵任务中实现了 90% 的平均成功率,在不依赖复杂算法的情况下表现更稳健、泛化性更强。这标志着具身智能体能像人类一样在实践中持续进化,无需频繁“回炉重造”,为构建通用机器人提供了高效路径。#人工智能 #机器学习 #AIforScience #科学发现 #科研解读

43. 2.4-1|多模态大模型与视觉语言动作:VLA5阶段通用训练过程;Kimi K2.5视觉智能体

44. [论文解读] OmniNav 高德 快慢双系统让机器人“不迷路、更聪明”

45. Transformer模型微调:彻底搞懂灾难性遗忘(原因+避免+恢复)

46. DesCLIP:基于视觉语言模型的视觉识别中通过通用属性描述实现鲁棒持续学习

47. *NeurIPS 2025|ChatVLA-2:面向开放世界推理的视觉-语言-动作统一模型

48. EVOLVE-VLA:VLA模型测试时训练,突破模仿学习瓶颈

49. 【ACL 2026】VLA-Forget:让机器人"遗忘"不安全行为的新范式

50. 一周论文回顾 | 20260112-20260118 具身智能前沿研究

51. DualCD|如何解决域增量学习场景下时序分类模型灾难性遗忘问题

52. 用强化微调破解视觉持续学习的灾难性遗忘!港大提出RaPO新方法 【AI论文解读】【多模态大模型】

53. 当前VLA模型的概述及解释

54. 面向视觉-语言-动作模型的实用世界模型强化学习

55. VLA Foundry:一个训练 VLA 模型的统一框架

56. 【VLA】MemoryVLA

57. 【2026年4月9日】6篇视觉-语言-动作模型论文推荐

58. AMemGym:从交互式记忆评测到持续学习-栋宇-美团

59. DeepVision-VLA:增强VLA模型的视觉基础表征

60. 动作图像:基于多视角视频生成的端到端策略学习

61. Fine-Tune 踩坑全录:灾难性遗忘怎么治

62. 2026年持续学习最流行的热门创新思路总结 - 哔哩哔哩

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
相关兴趣推荐