处理公司机密或私人日记时，担心数据上传的隐私问题？本文提供一个在Ubuntu上利用开源工具搭建本地AI知识库的完整方案。所有运算在本地完成，断网也能精准回答问题，彻底保障数据主权，让你安心使用AI。
智能速览
Ubuntu + Ollama + DeepSeek + AnythingLLM 组合搭建本地RAG系统。
所有数据本地化处理，拔掉网线仍可正常使用，确保绝对隐私。
选用性能与推理能力平衡的DeepSeek-R1模型作为AI核心。
整个部署过程预计耗时约15分钟，操作简便。
精华内容
接下来，将详细拆解这套方案的部署流程，从基础环境搭建到知识库投喂，每一步都清晰明了。
部署AI大脑
首先需要部署运行大模型的环境。Ollama是Linux上最优雅的运行工具，通过一条命令即可完成安装：`curl -fsSL https://ollama.com/install.sh | sh`。
安装后，拉取推荐使用的DeepSeek-R1模型。对于8GB显存的用户，推荐7b版本以获得最佳体验；若显存较小或仅使用CPU，可以选择1.5b版本。在终端执行`ollama run deepseek-r1:7b`，当看到`>>>`提示符并能流畅回答问题时，说明本地AI核心已就绪。
搭建知识库
模型需要结合一个知识库界面才能发挥作用。AnythingLLM是一个开源的全栈RAG解决方案，其桌面AppImage版本非常适合Ubuntu用户。官网下载Linux版的AppImage文件后，通过`chmod +x`赋予执行权限并运行。
在配置界面，将LLM Provider设置为Ollama，Ollama URL填写`http://127.0.0.1:11434`，Model选择已下载的`deepseek-r1:7b`。向量数据库保持默认的LanceDB即可，它无需额外安装，开箱即用。
导入私有文档
见证奇迹的时刻是向知识库投喂数据。在AnythingLLM中创建一个新的Workspace，例如命名为“My Secrets”。
点击上传按钮，可以将PDF、Markdown笔记、Word文档等多种格式的私有资料拖入。点击“Move to Workspace” -> “Save and Embed”后，系统会自动将文档切片、向量化并存入本地数据库。整个过程完全在本地硬盘上进行，没有任何数据流向互联网。
验证离线功能
为验证“绝对隐私”的特性，可以进行终极测试：拔掉网线或断开Wi-Fi。此时，在对话框中提出一个只有你本地文档中才有答案的问题。
例如，上传了一份《2026年家庭装修预算表.pdf》，可以提问：“客厅地砖预算是多少？”AI不仅能够准确报出文档中的具体数字，还能根据上下文进行推理分析，给出如选择国产品牌可节省多少钱等建议，证明了离线功能的强大与可靠。
通过这套组合方案，我们获得了数据主权、零成本和高性能的本地AI。这不仅解决了隐私痛点，也展示了开源生态的强大。未来，数据将真正回归个人掌控。
