11月上旬,“RAG这次真死了”突然在本地推理圈子里密集出现。小红书上的帖子拿了上百赞,微博博主把同样的话发成头条文章,指向的都是同一个项目:SAG2,广州智跃深空10月开源,MIT协议,仓库至今还在更新。微博小红书小红书小红书
最抓人的卖点是建库成本:不调Embedding、不建向量库、不要GPU,11656个段落2.36秒索引完成,整个知识库存成一个SQLite文件,备份就是拷走这个文件。小红书知乎

语义层没有消失,是挪了位置。BM25这个90年代的关键词算法先粗筛候选段落,JEV类判定模型再决定哪些算证据,证据反哺出新关键词接着搜,迭代几轮,多跳线索就这样串起来。按ChipAI的归纳,用法分三层:纯词法的快速搜索毫秒级出结果、完全离线可用;只有深搜和问答才需要挂模型。小红书小红书

效果数字出自团队自报:MuSiQue多跳召回Recall@5为80.68%,比HippoRAG 2高15.55个百分点;51万份文档的EnterpriseRAG-Bench上,建库8分32秒,Recall@10达81.10%,同场的LightRAG和HippoRAG 2没能跑完全量。这些结果来自团队自己的arXiv论文,目前公开层面还没有第三方复现,引用时要先打折扣。小红书小红书
更容易被误读的是那个7000倍。官方发布帖写得很清楚:建库耗时从“上一代报告的4.57小时”降到2.36秒。SAG一代要用大模型逐篇读语料、抽实体,小时级花销在这里;普通向量库建库走的是Embedding,不是大模型读文档,本来就没有“4.57小时”这笔账——7000倍比的是自家上一代路线,不是替代你机器里那个向量库。小红书知乎
成本同样是从一头挪到另一头。用深搜时,每个问题都要触发判定模型调用和关键词多轮迭代,查询变慢、消耗token,是建库免费的另一面。博主“模湖智能”也提到,开源项目目前默认绑定JEV系模型,一旦不可用时的替换路径尚未公开验证。ChipAI整理的用法里,判定环节本地小模型就能承担,没独显的机器也能跑起来,这才是对本地推理人群真正的消息。小红书小红书
SAG2适合的人挺具体:攒了一堆本地笔记的Obsidian用户,想让编码Agent查自己语料、又不能让文件出机器的人(SAG Wiki桌面端服务只绑127.0.0.1),以及没有GPU的尝鲜者。它也有门槛:扫描版PDF要做OCR,首次用到才会按需下载Docling;词法索引在精确FAQ问答对上粒度够不够、知识库持续增量更新的表现如何,社区的追问还挂在那里。小红书小红书

“RAG死了”这个结论下得早,但有一件事可以确定:建库这一环节的成本真的可以压到零,而这一环节过去站着的是显卡和Embedding模型。省下来的钱会不会在查询时花回去,拿自己的语料跑一轮才有底气回答。