威联通Qsirch的“本地AI”要过三道闸:官宣“推理本地”是真的,但本地的只是嵌入层——开RAG之前,先算完独显、token和隐私这三本账

源自25位全网作者

05:05

这个夏天威联通玩家的 App Center 挺热闹:5 月起"Qsirch 智能AI搜索"开始被体验文章密集刷屏,8 月 12 日 IT之家转了官方官宣——Qsirch AI 模式引入 VLM/LLM,“AI 推理均在 NAS 本地执行,无须将文件内容上传至公有云 API”。紧接着 QuONE 公测,把 Qsirch 整进了手机端一级入口。不少人的第一反应是:家里那几 TB 文档素材,终于要"AI 搜索"了。IT之家

先别急着开。把官宣、实测教程和 DIY 路线的帖子放一起对一遍,就会发现"本地"这两个字里,藏着三道闸。

第一道闸:“推理本地"的"本地”,说的是语义搜索,不是 RAG 问答

Qsirch 其实是三层东西:关键词全文检索(倒排索引 + OCR,最老的一层)、AI 语义搜索(8 月 12 日官宣那层,本地小模型跑 VLM/LLM)、RAG 搜索(知识库式问答,多轮对话、自动总结、带溯源)。官方"文件内容不上传公有云"的承诺,对应的是前两层——按内容找图、OCR 搜字、语义筛选在机器本地完成。知乎

但真正让人觉得"AI 知识库来了"的,是 RAG。而 RAG 的"大脑"(生成用的 LLM)默认不在你机器上。8 月中旬把这条链路写得最细的实测作者 Stark-C 说得很直白:本地 RAG 需要"特定 NAS 型号,并且需要额外的独显支持(部署本地 LLMs)“,他自己的结论是"我个人目前还没有这个条件”,全文用的是云端 API。知乎

也就是说,拿 Qu605、TS-464C2 这一档接上云 API 之后,实际分工是:Qsirch 内置的本地嵌入模型负责把你资料库里的片段"捞"出来,云端大模型负责把答案"说"出来。官方口径里的"本地",只做到嵌入和语义这一层。

威联通Qsirch的“本地AI”要过三道闸:官宣“推理本地”是真的,但本地的只是嵌入层——开RAG之前,先算完独显、token和隐私这三本账

第二道闸:独显账——没独显,N100/N150 上的"本地 RAG"别指望

有人会说:我 Container Station 里自部署一个 ollama,不就彻底不出门了?有现成实测样本:N150 的威联通上跑 MiniCPM5-1B,内存占用不超过 2G 是能跑的,但首字延迟 7.4 秒、每秒 16 个 token——这还是只有 1B 参数的小模型。RAG 的回答质量高度依赖生成模型水平,这个档位离"好用"还有距离。知乎

现实版结论:ARM 入门款和 N100/N150/N355 档家用机,基本无缘舒适的本机 RAG;想要真本地,要么看带 PCIe 位、能上独显的高端 TVS(威联通官方对本地 RAG 有具体型号清单,动手前先查),要么认了"嵌入本地 + 生成在云"的混合架构。而且给这类家用小机器加上长期推理负载,电费、风扇噪音这些老账会重新翻出来——464C2 车主吐槽"HDD 从没正经休眠过"的那条回答,67 万阅读不是白来的。知乎

威联通Qsirch的“本地AI”要过三道闸:官宣“推理本地”是真的,但本地的只是嵌入层——开RAG之前,先算完独显、token和隐私这三本账

第三道闸:要走云,token 账和隐私面都得自己管

Qsirch 的 RAG 支持用"OpenAI 兼容 API"接云端 LLM,国内大模型厂商基本都能对接;但嵌入模型那侧更挑剔——不吃 OpenAI 兼容,默认用内置本地模型。软件本身不要钱:今年 5 月以来的体验文章里反复出现同一句话,“Qsirch 所有功能已免费开放,不用再买 Premium 授权”。不过提醒一句,这句说法在几十篇稿子里近乎逐字出现,属于厂商统一口径,开通前在 App Center 里亲眼确认一遍不亏。知乎

真正花钱的是 token:RAG 每问一次,检索片段就会传给云端 API。9 月初知乎"本地部署大模型就实现 token 自由了?"下面 60 多条评论吵出来的主流结论很一致——家用低频用云更划算,高频再考虑硬件折旧。家用 NAS 一年到头问不了几百次知识库的,这笔账比一块独显便宜太多。知乎

比钱更要紧的是隐私面:Qsirch 的 RAG 默认全局检索——注意,是整个 NAS 的所有文件夹。实测作者给出的控制方法就写在同一个教程里:把 RAG 限定到特定文件夹(比如只放工作文档),敏感问题用"临时模式"(关窗即清记录),聊天室链接共享给团队前想清楚权限范围。默认设置直接开全局,等于把你没打算上传的东西一起打包端上桌。知乎

威联通Qsirch的“本地AI”要过三道闸:官宣“推理本地”是真的,但本地的只是嵌入层——开RAG之前,先算完独显、token和隐私这三本账

顺手说一句远期:比搜索框更值钱的,是它把接口开给了 Agent

如果只把 Qsirch 当成"AI 加持的搜索框",就看小了一半。6 月那篇 WorkBuddy 实测给过方向:威联通的 MCP Assistant 把 NAS 状态、用户/组管理、共享文件夹、文件管理、Qsirch 检索等 24 个官方 MCP Tools 放了出来,外部 Agent 可以直接下令"搜一下一年级课本存在哪、把数学下册发给我",实测跑通。用原作者的话说,这是目前唯一一个官方提供 MCP 的 NAS。知乎

威联通Qsirch的“本地AI”要过三道闸:官宣“推理本地”是真的,但本地的只是嵌入层——开RAG之前,先算完独显、token和隐私这三本账

9 月中旬 QuONE 开启公测,威联通把 Qsirch 折进了手机端一级入口。威联通想卖的不是一个搜索套件,是"NAS 当 Agent 数据层"的地基。值得继续盯三个信号:本地 RAG 支持清单会不会下放到无独显 x86 机型、嵌入模型会不会开放第三方接口、QuONE 正式版给 Qsirch 加什么入口。知乎

最后:四类人,四种开法

你是哪种

建议

ARM 入门款机主(TS-216 这档)

用关键词 + OCR 全文就够,RAG 别开,资源顶不住

N100/N150/N355 家用机主(Qu405/Qu605/464C2)

语义搜索日常开着;RAG 接云 API,但先限定文件夹、敏感场景用临时模式

带 PCIe 能上独显的高端机主

本地 RAG 可以按官方清单上车,对 7B 以下小模型的回答质量先有心理预期

DIY 党(RAGFlow/AnythingLLM 已在跑)

解析和流程控制 Qsirch 替不了你,但它的 MCP 接口可以当检索层配合用

威联通这次把搜索做成 AI、还顺手免了费,是实打实的进步;但"推理本地"落地到你的机型之前,先把独显、token、隐私这三本账算完,再点那个"开始索引"。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章