群晖+Docker,离线AI轻松上手?
告别云上隐私焦虑,不如?😂😂
如果你手里有台群晖,别再只当监控存储或电影仓库了!让它长个“AI脑子”才是正经事。我花了周末两天,在DS920+上跑通了离线大模型,从此告别数据上传的隐私焦虑。

硬件准备: 没独立显卡?没关系!群晖的Intel核显虽然性能有限,但配合OpenVINO加速,硬跑个7B参数的模型还是可以的。记得内存至少加配到8G以上,不然交换分区会卡到你怀疑人生。

Docker部署才是精髓。 千万别用套件中心!直接Docker拉取Ollama镜像,命令一行搞定。但坑来了:默认端口映射不对,容器日志疯狂报错。查了半天资料,才发现需要加上 --gpus all 参数来调用核显(虽然聊胜于无),重启容器的那一刻,看到模型加载成功,简直泪目。

最难啃的骨头是外网访问。 为了在公司也能调戏家里的AI,我折腾了DDNS和SSL证书。群晖自带的DDNS有时解析慢,换了阿里云域名后丝滑无比。最想砸键盘的是HTTPS配置,证书老是报不安全,最后用反向代理 + 强制跳转才完美解决。

最终成果: 现在我的群晖不仅能回答“今天有什么电影”,还能根据我冰箱里的存货推荐菜谱。虽然响应速度比云端慢个几秒,但这份掌控感和数据安全感,值了!想上车的值友记住:先升级内存,再研究Docker,你离AI只差一个镜像的距离。✌🏻
