NAS搭建私有ChatGPT：从Docker到Open WebUI一站式部署指南

"家里NAS吃灰好几年了，除了下载和备份还能干嘛？"——如果你也有这个困惑，这篇文章可能会让你重新审视那台角落里嗡嗡响的小铁盒。

我用一台普通的 x86 NAS（J4125 处理器、16G 内存），花了不到一小时，搭出了一个全家可用的私有 ChatGPT。老婆用它查菜谱和翻译，我拿它写周报和改代码，甚至老妈都学会了语音问它养生知识。关键是——完全免费、完全离线、完全私密。

NAS搭建私有ChatGPT：从Docker到Open WebUI一站式部署指南

你的NAS能跑AI吗？最低配置要求

先别急着动手，确认一下你的 NAS 是否满足基本门槛：

CPU：x86 架构（Intel N100/J4125/i3 及以上），ARM 的群晖 DS120j 之类暂时不行
内存：最低 8G（只能跑 1.5B-3B 小模型），推荐 16G（流畅跑 7B 模型）
存储：系统盘留出 20G 空间给 Docker 和模型文件
Docker 支持：群晖 DSM 7.2+、威联通 QTS 5.0+、或任何 Linux 系统均可

划重点：没有独立显卡也能跑，只是速度慢一些。纯 CPU 推理 7B Q4 模型，大约 3-5 token/s，等几秒就能出一段话，日常够用。

三步搞定：Docker 部署 Ollama + Open WebUI

整个部署过程我拆成三步，哪怕你从没用过命令行，照着复制粘贴也能搞定。

第一步：安装 Ollama（AI推理引擎）

SSH 登录你的 NAS，执行：

docker run -d --name ollama --restart always -v ollama_data:/root/.ollama -p 11434:11434 ollama/ollama

一行命令，Ollama 就跑起来了。接下来拉一个中文能力强的模型：

docker exec ollama ollama pull qwen2.5:7b-instruct-q4_K_M

模型文件大约 4.4G，取决于你的网速，下载可能需要几分钟到半小时。

第二步：安装 Open WebUI（聊天界面）

docker run -d --name open-webui --restart always -p 3000:8080 --add-host=host.docker.internal:host-gateway -e OLLAMA_BASE_URL=http://host.docker.internal:11434 -v open-webui:/app/backend/data open-webui/open-webui:main

部署完成后，浏览器打开 http://NAS的IP:3000，注册一个管理员账号，就能看到熟悉的聊天界面了。

第三步：给全家人开账号

Open WebUI 支持多用户，在管理后台给家人各建一个账号，每个人的对话历史互相隔离。手机浏览器访问同一个地址就能用，不用装 App。我还把它加到了手机主屏幕快捷方式，体验跟原生应用差不多。

进阶玩法：让它更好用的三个技巧

1. 多模型切换：Ollama 支持同时装多个模型。我额外装了 codellama:7b 写代码、llama3.1:8b 处理英文，在 Open WebUI 顶部下拉菜单一键切换。

2. 本地知识库（RAG）：Open WebUI 内置了文档上传功能，把 PDF、TXT 文件扔进去，AI 就能基于你的文档回答问题。我把产品说明书、公司内部规范都传了进去，查资料比翻文件快十倍。

3. 外网访问：用 Tailscale 或 ZeroTier 组内网穿透，出门在外也能用手机连回家里的 AI。免费额度完全够个人用，延迟也在可接受范围内。

踩过的坑，帮你避一下

内存不够的症状：模型加载到一半卡死，或者回复到一半突然中断。解决办法：换更小的量化版本（Q4→Q3），或升级内存
Docker 网络问题：Open WebUI 连不上 Ollama，大概率是 host.docker.internal 没生效。群晖用户需要在 Docker 设置里手动指定 host 网络模式
模型选择建议：别一上来就下 70B 的大模型，16G 内存根本装不下。从 7B Q4 开始体验，够用了再考虑升级硬件

NAS 的价值不该只停留在"存文件"和"挂PT"。当你花一小时把私有 ChatGPT 搭起来之后，会发现这台机器的利用率和你对它的感情都会翻倍。

你的 NAS 是什么型号？有没有尝试过跑 AI？评论区聊聊你的折腾经历！