这周的本地大模型信息流被同一类教程刷屏了：B 站四天之内出现三套 CherryStudio 搭知识库教程（最长一套标着"2026 年最全最详细"），RAGFlow 纯本地部署教程单条播了 1432，AnythingLLM、Dify 的"10 分钟搭私有知识库"还在排队进场。另一边，两篇争议帖同期被顶上热榜：一篇说"RAG 真的过时了吗，wiki 才是万能解药"，另一篇说"知识库答非所问，九成不是模型笨"。
把这两股风放在一起看，会发现它们其实在回答同一个问题：你已经把模型跑起来了，现在想把自己的法条库、笔记、课题组资料或者公司手册喂给它——这条路到底能不能走通？我把四个真做过项目的作者（一个做过七八个知识库交付的乙方、一个自己搭法条库的律师向玩家、一个带小团队做私有化的负责人、一个从文档解析到流式输出全部手写的 Java 后端）写下的一手数据摆到一起，结论惊人地一致，而且好几条跟教程里说的相反。
一、六成答非所问，锅在检索不在模型——6 个翻车点全有出处
做知识库最常听到的一句抱怨是"模型答得驴唇不对马嘴"，第一反应都是换个更大的模型。做过七八个项目的乙方把结论直接摆在最前面：
RAG 答非所问，九成不是模型笨，是喂给模型的那几段文字本身就是错的。
他列的四个检索坑，每一个都带着真实案例：切分拦腰砍——文档里"退款需要满足以下三个条件"的标题和三条内容被切成两块，模型只看得到标题，开始照着标题硬编；语义相似不等于答案相关——用户问"怎么退款"，向量捞回来的是"退款政策的历史沿革"“去年退款流程调整通知”，看着都像，全不是答案；上下文淹没——答案那块 chunk 明明被召回了，但埋在二十段废话里，模型压根没注意到；embedding 质量差，问常识还行、问专业就飘。这条"语义相似"和"答案相关"的边界，他在原文里写得直白。参数上的通行修法：按语义边界切，chunk 200～500 token，相邻重叠 10%～20%，调 top-k、上混合检索（BM25+向量）、必要时 rerank。知乎
Java 那位作者的实录里还藏着两个更疼的。他给系统出了 15 道事实题加 3 道库里根本没有的超纲题，全部答对、全部正确拒答——但这套评测差点建立不起来：他换了 embedding 提供方之后直接提问，检索结果明显不对。原因一句话就能记住：不同模型产出的向量不在同一个空间里，换 embedding 必须全量重新入库。这一步没有任何报错提示你，坏结果是静默的。知乎
静默失败正是第三位作者老井用事故换来的：他的知识库一夜蒸发 56%，日志上还写着"完成"。反过来的教训就是入库侧必须留痕——因为不报错也不留痕的库，看起来在跑，其实一直在错。知乎知乎
二、库不是越喂越值钱：病根有 4 个，全在文档侧
RAG 过时之争那篇的作者把三家的生死线画得很清楚：长上下文吃掉了小语料场景——十万字以内的单份资料，直接全文塞进 100 万 token 上下文就行；wiki 条目路线正在抢核心知识的存放权——让 agent 平时就把文档"消化"成按业务组织的条目，提问时翻目录；RAG 自己退守海量长尾检索。他补了一句最关键的判断：企业知识库落地，第一个问题往往不是检索不准，而是库里根本没有答案——大量关键知识压根没进文档系统，躺在聊天记录、会议纪要和几个老同事脑子里。知乎
这条"病根在文档侧"的共识，具体是 4 个：黑话与同义异名（文档写"费控平台三期"，用户问"报销系统"，同一个东西三个叫法，BM25 抓瞎、embedding 也糊）；表格切碎（最值钱的报销标准、审批额度在表格里，表头和数据一分家，捞回来是"5000 元、3000 元"这种没主语的数字）；没有元数据（部门、年份、有效期、权限没进文档属性，权限过滤无从做起）；以及上面说的原料缺失。词表统一、目录重排这些事，检索层补不了，只能人来补。
所以微光团队做的第一个关键动作不是调模型，而是删库：把自己的库清掉大约三分之二，把"能靠通用知识回答的"全部摘出去——“这点有点痛，专家们可能要过自己那关”。他们复盘里最贵的教训就是最初那次"全量倒库"：把整个文件夹倒进去，结果排版文件、聊天记录和旧版本全混进来，检索捞上来的多半是垃圾。这和教程里"资料越多越值钱"的直觉完全相反——只涨不缩的不是库，是堆。知乎
三、"隐私"和"全本地"是两回事：3 条路线对号入座
这是本地党最容易选错的一叉路口。微光团队试过把模型也在本地跑，盯的是三个数：等待时间、同时在线人数、机身温度——一个人问一次要等几十秒，三个人同时问后面的人就排队，风扇拉满机器烫手。他们的结论带边界条件："在我们这种量上，本地跑省下的钱，抵不过排队的时间；但如果你是十几个人天天用，或者资料敏感到一步都不能出网，那才该认真算一次本地——瓶颈不在买哪张卡，在并发。“而他们最终的工作流是：数据、索引、向量全在本机，只有模型调用出网——真正出门的只有检索命中的那几小段文字。这是他们眼里"私有化里最贵的误会”：把"数据不能出门"和"模型必须在本地"绑成一件事。知乎
纯个人玩家老井给出了同一逻辑的另一半：本地不是不能干活，但它的岗位是仓库管理员，不是脑子。他常年在自己电脑上跑一个 274MB 的 nomic-embed-text，把五万多条法条、一万多条判例全部向量化，一次调用 0.27 秒，电费之外零成本、不发出一个字节；但归纳、判断、写作交给云端的 DeepSeek。分界线不在"活儿难不难"，在"这活儿要的是找回，还是判断"。他反而认为本地用得越顺，云端花得越准——本地不是云端的替代品，本地是给云端干活的过滤器。知乎
对号入座的话：
单人、资料敏感（法条/病历/论文笔记）：本地 embedding 小模型 + 判断层按你的预算选本地大模型或 API，是最优解；
三五人小团队：先走"数据本地 + 模型 API"，原始文件不出门，token 是唯一按量开支；
十几人以上天天用，或一步都不能出网：预算按并发配，不是按"能不能装下模型"配——卡买贵了不解决排队。
四、教程潮的水位：4 条硬标准，先过一遍再点"三连"
这周教程评论区本身就是一面照妖镜。RAGFlow 那条的置顶是"三连求资料"，UP 主逐条回复"宝子认准我的回复，不要相信其它骗子！没收到就是被吞啦"——资料包漏斗已经内建了"同行骗子"的戏码。买服务的话，一篇乙方写的辨别指南给了可用的硬标准（注意它本身是服务商软文）：答案能不能溯源引用私有文档片段、有没有按角色的权限隔离、知识库更新甲方能否自主上传删除——返回的内容不能引用私有文档来源、没有用户权限区分、文档更新必须联系服务商后台操作的，都算套壳嫌疑。自建选型则用微光那四条不过时的标准：数据能不能留在本地（硬门槛）、中文分不分得准、权限能不能按人分、谁来维护——最后一条最容易被忽略：如果它需要懂技术的人天天伺候，小团队扛不住。哔哩哔哩知乎知乎
五、开工前的最小动作：一张纸，18 道题
如果你看完还是想试，别从装工具开始。微光给的"最小的一步"是不买工具、不开项目，先拿一张纸写三行：哪个问题被反复问过；谁来喂料、谁来定规矩；怎样算做成。然后把这三行和你的少量文档先喂给你现有的模型试。验收方法抄 Java 作者的作业：人工出 15 道事实题（每题标期望关键词和期望来源文档），再埋 3 道超纲题看它会不会拒答——能不能答对是能力，会不会说"知识库里没有"是底线。知乎知乎
接下来值得继续盯的信号：GraphRAG 能不能接住 wiki 那篇留的悬念（宏观跨文档问题）、长上下文的继续降价会不会吃掉更多小库场景、以及 MoreLogicRAG 这类"纯 CPU 可跑的个人免费版"（9 月发布的 1.5.7D，Apache 2.0）会不会把门槛真的打下来。教程可以天天有，但库是你的——先把那三行字写出来，再决定要不要给它建房子。知乎
