群晖NAS部署Ollama!折腾三天打通外网AI访问踩坑复盘
手里的群晖入门款NAS原本只用来存放家庭影像资料,近期本地离线AI需求提升,计划直接在群晖内通过Docker部署Ollama大模型,实现内网随时调用AI处理文档、总结笔记。原本以为半天就能完工,结果从环境适配到外网访问,整整耗费三天才彻底调试完毕,踩过的坑全部整理出来。
最开始直接在群晖套件中心安装Docker,拉取官方Ollama镜像后直接运行,很快发现入门款NAS的CPU算力孱弱,直接运行7B原版模型加载耗时超过40分钟,回复文字延迟高达十几秒。我查阅大量玩家方案,更换轻量化量化模型,并且在容器内限制CPU使用率与内存占用,禁止后台自动模型更新,初次在内网成功流畅调用本地AI。
内网使用一切正常后,我着手配置外网随时随地访问AI服务,这也是整个项目翻车最多的环节。最先尝试群晖自带DDNS搭配端口转发,完成路由器设置后,外网依旧无法访问,反复检查防火墙、端口规则,才发现运营商封禁了常用服务端口,直接端口映射完全行不通。
随后我更换FRP内网穿透方案,在云服务器搭建服务端,NAS本地部署客户端,成功建立通道后,又遭遇跨域访问报错,网页端AI界面可以打开,但是无法发送提问指令。我翻阅日志文件,手动修改容器配置文件,放开跨域访问权限,同时设置账号密码登录验证,杜绝公网裸奔带来的安全风险。
全部配置完成后,我设置定时任务,每天凌晨自动备份AI对话记录与重要文档。目前不管是外出工作,还是居家办公,都可以随时接入本地大模型,无需上传隐私文件到公有AI平台,数据私密性大幅提升。
这次部署让我意识到,成品NAS部署AI不能照搬通用教程,不同机型硬件算力差距极大,外网访问优先规避公网端口转发,优先选择穿透方案。看似简单的部署操作,每一处报错都是优化的机会,最终落地的个性化方案,远比通用教程更加贴合个人使用场景。













