张大妈

首个记忆原生模型MemT开源:8天下载10万次,CLAUDE.md受害者要不要跟?先算40MiB、32K和一条许可这三笔账

源自13位全网作者

10-29 15:41

新会话一开,AI 又变成陌生人

做 Agent 或用 Cursor、Claude Code 写代码的人,大多有种共同的"内伤":在项目根目录写了几百行 CLAUDE.md、AGENTS.md,把架构分层、命名规范、私有异常对齐得清清楚楚,结果对话轮次一多、或者新开一个会话,AI 转头忘干净,在同一个坑里反复摔跤。有人形容,会话窗口一关,AI 就"如喝了一碗孟婆汤",踩过的坑、纠正过的错全要从零重教。 微博热帖评论区那句话更扎心:原来不是我调教的姿势不对,是架构本身就有限制。知乎微博

这不是个别玩家的矫情。小红书有笔记在整理 DSH 插件生态时就把痛点挑明了:框架本体卷得飞快,但到现在没有跨会话的长期记忆,记忆因此成了最卷的方向。 今年 AI 圈集体盯上"递归自我改进"(RSI),Hinton 署名的论文把拼图摆上桌,知乎讨论里 MemT 也被定位成"RSI 三块关键拼图"中从模型层补上的那块。小红书知乎

10 月 20 日,上海团队"记忆张量"(MemOS 团队)正式发布并开源业内首个记忆原生基座模型 MemT 1.0:288B 的 Flash 与 36B 的 Nano 双版本,把可持续更新的内部记忆做进模型计算。 发布 8 天,全系列在 Hugging Face 上的下载量逼近 10 万次大关(Nano 5.5 万 + Flash 4.4 万)。 微博那条 100 赞、101 条评论的帖子里,一边有人憧憬"不用每次打开都重新自我介绍一遍",一边有人泼冷水"希望这次别画饼"。清友创联知乎微博

所谓"记忆原生",跟塞小抄、背课文差在哪

行业里的"AI 记忆"目前主要三条路线:

  • 全量上下文:把历史对话原文一直挂在窗口里,等于考试把整本教材背进考场,token 成本随长度涨,注意力还被稀释;

  • 外挂检索(RAG/记忆库):把历史存进外部库,用时检索出来塞回提示词,像口袋里塞小抄,翻查耗时还可能翻错页——MemOS 自己的记忆插件也属于这一层;

  • 记忆原生(MemT):把历史压进模型内部一块固定大小的可更新状态,直接参与后续每一层计算。

MemT 的做法是在 Transformer 里并行挂一块 Native Memory Block:它冻结基座权重,不靠持续训练,而是以模型计算维护动态记忆,用可训练门控管控写入、擦除与遗忘。 在此基础上,基于 Gated DeltaNet-2(GDN-2)构建 Token 级逐词更新,消融实验比整轮会话一次性压缩高出 6 个百分点。清友创联知乎

团队把这套东西的来历讲得很完整:2023 年提出 Memory3 分层理论,随后开源记忆操作系统 MemOS——GitHub Star 超 1.1 万、云服务月调用超 5000 万次、服务 500 余家企业客户;7 月开源 Metis 系列,10 月把规模推到 288B。 做出这套模型的记忆张量(上海)科技有限公司 2024 年 11 月成立,创始人兼 CEO 熊飞宇是原阿里巴巴业务中台数据智能负责人,首席科学家杨泓康、CTO 李志宇都出自阿里系,公司今年已完成两轮融资。对开发者最直观的说法是:无需微调,几行 Python 代码就能把工程规矩写进会话记忆,并存成状态快照随时恢复。清友创联知乎

实测:规矩真的"刻"进去了,但只记得住"意思"

知乎博主"Ai 学习的老章"开了一台 Google Colab A100 80G 实例,用 SGLang 部署 36B 的 MemT-1.0-Nano 跑了个实测:先注入四条严格的金融支付私有架构红线,清空明文上下文,在零小抄下让它写接口。知乎

记住的部分是真的。 新开的会话里一条聊天记录都没有,他只提了要写的函数名,四个团队自造的专有名字,连同 SEC_PAY_4001、0000 两个私有错误码,模型一个没落下地写进了代码——这些名字在外面根本查不到,只能是从内部记忆里调出来的;对照组(不带记忆)写出来的就是个通用支付回调,四个专有名字零命中。生成耗时 135.36 秒、输出 4524 字符,对照通用写法花了 236.90 秒、输出 8365 字符。知乎

存储这边同样夸张:整份记忆快照文件 41,944,024 字节,与论文给出的单条轨迹状态约 40MiB 一致;4 个会话的记忆状态池总共才占约 200MiB 显存。知乎

忘掉的部分也是真的。 四条规矩只有"报错"那条丝毫不差:加锁用了普通写法而不是规范要求的异步写法、锁名前面多了前缀、脱敏环节自作主张加了"失败用假数据顶上"的兜底、没脱敏的卡号手机号照样传给了下一步、返回里还多塞了一个字段。用 AST 语法树逐条核验后,博主的结论很清楚:模型记住的是"该用哪把锁、要脱敏、用自家的异常"这些意思,原文的每个字未必都能还原,就像人背规章,条款记得住,原话复述不全。 生成上限压到 2048 token、Nano 又是全系列最小的一档,写出来的代码仍然得人工过一遍。知乎

技术报告里还有一个像样的工程案例:团队从 4.1 万条成功代码轨迹里提炼出 1,040 条结构化程序性经验,Agent 执行中卡点时按任务描述检索一条,通过 Memory Store 写入原生记忆,全程不往对话上下文追加任何经验长文,去修那个著名框架 Django 关于两位数年份解析的经典 Bug 时,提升主要体现在多次运行的稳定性上。知乎

把官方数字掰开:32K 成本分水岭,和一句"仍然领先"

官方给的两个大数字要连边界一起看:在 11 项记忆基准中位列参数化记忆方法前二,256K 长历史推理提速近 4 倍、存储缩减约 130 倍。 注意限定词是"参数化记忆方法"——同一张榜上,文本记忆系统明显更高:MemOS 平均 68.5,全上下文平均 66.3,官方 README 也承认强文本记忆系统整体仍然领先,在长历史、需要细节证据检索的任务上尤其如此。 个别基准上,Temp-LoRA 等方法分数也确实比 MemT 高。清友创联知乎

更要命的是成本交叉线:记忆写入与状态更新本身消耗前向算力,端到端延迟在短历史场景反而比全上下文更慢,约 32K 才持平,优势主要出现在 64K 以上的长历史场景。 换句话说,会话大多只有几千 token 量级的开发者,现在换原生记忆不仅不省钱,还可能更慢;它是为周级、月级长程任务的 Agent 准备的。社区一个高赞评论也摆得清醒:它在总榜上还没赢,论文自己也承认保真度是短板。知乎微博

另外几处论文自己写明的"没赢":

  • 注入无关记忆的噪声测试里,模型在六项通用基准上平均下降 0.9 分,其中 LiveCodeBench v6 下降 5.8 分最明显,IFEval 和 BigCodeBench-Hard 反而各涨 3.3 和 2.0 分。知乎

  • 宣传里的 MoS 记忆专家扩容(4 专家比 2 专家平均分高 0.41 到 2.69 分)并不在已发布版本里:已发布的 Nano 和 Flash 每层只有 1 个记忆块(E=1),并未启用 MoS,这部分属于架构能力的验证。知乎

  • 当前智能体使用的程序性经验仍依赖离线构建,如何让模型完全自主提炼经验并固化回传,是下一阶段才要攻坚的方向。知乎

  • 所有跑分均为团队自报,暂无第三方复现,且行业评测尚无统一标准,部分评测体系由该公司参与搭建。清友创联

上线前先核对:权重开源 ≠ 整套能商用

这是最容易被"开源"两个字带过去的一条:两款权重采用 MIT 与 Apache 2.0 许可,但原始代码及推理集成采用 PolyForm 非商业许可,商用需单独授权——权重开放不代表整套软件栈可商用,部署前需核对条款。 对想把它接进私有 Agent 的工程师,这可能是比基准分数更先撞上的墙。清友创联

谁现在值得上手,谁建议再等等

按你当前的会话形态和用途分三档:

  • 值得马上试:个人独立开发者、小团队,痛点是私有规范反复纠正不听(CLAUDE.md 受害者)、任务普遍在 64K 以上长历史、能接受代码出人工复核——拿 MemT-1.0-Nano 单卡实测最省事,把红线存成快照、换会话恢复,这个体验目前只有原生记忆路线给得了。

  • 先别动:需要精确复述条款原文、任务历史普遍短于 32K、或者要近期商用闭环的——前者交给文本记忆/RAG,后者等许可路径明朗。清友创联的产业观察给过一个更稳的判断:内部记忆与外部检索也未必互相替代,更可能分工——前者维护可复用经验,后者保存可追溯事实。清友创联

  • 持续盯三个信号:第三方复现分数(自报数据目前的可信度上限就摆在那)、MoS 多记忆专家版本何时真的上线、Flash 288B 的商业授权是否放开。评论区那句"但愿不是又一个漂亮新名词,期待开发者实测反馈",就是这件事现在最准确的进度条。微博

"记忆原生"到底是不是大模型下半场的入场券,没人能拍板;但这一轮真正的变化是:记忆第一次从外围拼装小工具,被推向模型核心计算的舞台中央,并且把权重开了源。 你押架构内记忆,还是继续外挂检索?评论区聊。知乎

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章