绿联NAS上架AI Plugins,一键部署DeepSeek,玩法丰富
DeepSeek有多火想必不用奶爸多说了,使用NAS或者PC本地化部署DeepSeek也成为了小伙伴们津津乐道的玩法。
绿联UGOS Pro系统作为NAS界高频更新、越来越好用的养成系系统,最近在应用中心上架了AI Plugins,真正做到了让小白也能“点一下”就能完成本地化部署的DeepSeek(当然也包括其他大语言模型)。

▼那这时候有小伙伴就要说了:我直接用官方DeepSeek不香么?讲道理个人认为使用NAS本地化部署DeepSeek主要有以下优势:
1.高度的隐私安全性;
2.享受NAS玩家那种我有你无的优越感;
3.免受“服务器繁忙,请稍后再试”的困扰。

▼另外使用绿联UGOS Pro系统进行AI Plugins应用部署本地大语言模型还有一个独家优势:
免去万千折腾,直接一步到位。别看网上的教程一大堆,但真实情况属于是“一看就会,一动就废”,即便是照着作业完全照搬步骤也难免会遇到问题,相信不少小伙伴都有同感。

DeepSeek快到碗里来
绿联NAS一键部署大法
▼绿联UGOS Pro系统发布之初,就带来了全新的应用中心功能,通过整合外部资源将第三方应用集合到NAS应用体系中,致力于帮助我们实现一步式虚拟化容器一键式部署,让我们消耗最少的时间,玩到主流的功能。

▼目前应用中心内提供了包括青龙、qBittorrent、AList、Home Assistant、Jellyfin、Lucky、Firefox浏览器等许多的高频使用的容器项目。AI Plugins是绿联UGOS Pro系统最新整合的大语言模型本地化部署资源。

▼安装时间视网络情况而定,AI Plugins应用有6.2GB左右,我这里下载到安装完成大概用了半个来小时左右,应用内部已经预置了1.5b蒸馏大模型,真正做到上手即用。

▼为了照顾到访问的便利性以及用户数据的安全性,目前设计只能通过局域网进行访问。不过我们可以通过UGOS Pro整合在应用中心的Firefox浏览器功能,轻松实现访问。顺嘴一提通过UGOS Pro提供的Firefox浏览器可以帮我们轻松突破网络限制,比如公司限制了视频网站,或者在公司需要使用魔法上网什么的,相当方便。

▼或者是虚拟机部署windows/Linux系统进行访问,当然也可以直接进行端口转发以及反代进行访问,不过会相对麻烦一些。

▼AI Plugins应用由Open WebUI整合而来,首次登录需要进行注册,数据保存在本地,根据自己的使用习惯进行设置即可。

▼应用中已经集合了DeepSeek-r1:1.5b蒸馏模型,真正做到了即装即用,它真的,我哭死。
Docker Compose命令部署大法(OpenWebUI)
▼有些小伙伴喜欢自己折腾,想要自己尝试部署DeepSeek,可以直接使用下面的命令进行拉取OpenWeb UI,绿联Docker提供Docker compose服务,主打一个让我们抄作业方便,有部署AI Plugins容器的小伙伴也可以自行折腾。

services:
core:
environment:
- ENABLE_OPENAI_API=False # 启用OpenAI 集成,若卡死则禁用False
- OFFLINE_MODE=False # 允许从HuggingFace 拉取模型数据
- OLLAMA_BASE_URL=http://:
- USE_OLLAMA_DOCKER=True # 使用集成 Ollama 容器
- TZ=Asia/Shanghai
image: ghcr.io/open-webui/open-webui:v0.5.19
ports:
- 3000:8080
restart: unless-stopped
volumes:
- ./data:/app/backend/data
▼对于由于DockerHub被墙不能顺畅拉取镜像的问题绿联UGOS Pro也给出了很详尽的解决方案,从此天下没有下载不下来的容器镜像,哈哈。

初见AI Plugins(OpenWeb UI)
▼OpenWebUI的界面很简洁,页面分布和搜索引擎有些类似,UGOS Pro提供的AI Plugins默认已经集成了Ollama,如果遇到需要调用API的情况会更加简单一点。

▼点击模型名称位置可以进行选择模型,开启临时对话后,对话内容不会被记录,就像我们浏览器打开了无痕模式一样。

▼如果点击加号的话,可以同时与多个模型进行对话,对话框下方我们能够看到上传文件、截图、语音输入等多种交互方式。

▼在对话框中输入内容即可进行对话,相对来说,个人认为1.5b的蒸馏模型其实更适合配合RAGFLOW、Dify等构建知识库。

▼如果启用代码解释器的话,可以对命令起到的功能进行一定的分析与注释。

▼在右上角的调整按钮可以会话模型的参数。

▼点击头像进入到设置按钮,可以对OpenWebUI的界面样式进行调整,如果需求只是进行简单的对话的话,基本上了解了以上内容就可以愉快的使用了。

AI Plugins的应用
构建个人知识库,知识不必都放到脑袋里
▼我们有很多知识,只是偶尔需要用到,全部记在脑袋里难免会不堪重负,毕竟时间有限,通过绿联AI Plugins搭建知识库可以让AI对话更符合我们的知识体系,也能够帮我们节约大量的检索文档内部表述的时间。
举一个例子,在没有构建知识库之前,我们去问有哪些监管认可的组合策略,AI回答风马牛不相及。

▼当我们调用知识库中的文档之后,回答就正常多了。

▼在对话的末尾还会展示出引用的文档,点击以后会显示相关知识库文档的原文,是不是方便了许多。

▼知识库的入口在【工作空间】中。

▼可以上传单个文件、上传文件目录、同步目录,或者直接添加文本内容。

▼搭建的时候需要一点操作,默认环境下会出现下面的400报错,我尝试从Ollama拉取bge-m3 嵌入式模型,但目前还没研究清楚,最后不得已还是选择借用了硅基流动提供的API接口。

▼通过头像-管理员面板-设置-进入到文档功能页标签。

▼在嵌入部分进行如下配置,记得需要去硅基流动申请一个API秘钥。

▼然后知识库中的文件就可以正常上传了,构建知识库的过程中会遇到部分文件无法上传的情况,个人建议直接复制文本添加文本内容。

▼具体调用的话,需要键入【#】(井号),然后选择知识库或者库中的相关文档就好。

▼需要调用外部API接口的话,可以进入到外部连接功能页,进行添加,进而实现外部API的统一管理。
添加更大参数量模型,让AI进阶
▼1.5B模型属于轻量级模型,运行速度快,但是性能有限;14B模型就已经属于高性能模型,能够比较好的处理复杂任务。

▼在不使用独立GPU,只使用CPU+内存的形式跑本地大语言模型的话,部署14B蒸馏模型需要占用16G左右的内存,小伙伴们记得加内存。

▼点击我们的头像框,进入到管理员面板。

▼进入到设置功能标签栏。

▼进入到模型功能页面,找到右边一个下载样式,实际上是模型管理的按钮。

▼如果不确定自己想要拉取的模型的具体名字的话可以通过下面的按钮进行搜索。

▼通过粗略的搜索获得模型的详细标签名。

▼复制完整标签。

▼将模型名称进行完整复制,就可以进行模型拉取了。

▼拉取完成后就可以选择8B、14B模型进行对话。

▼使用8B模型写一篇霸总小短文。

▼欢乐的很。

不止Deepseek,更是AI工具大合集
▼Plugins翻译中文就是插件,它的功能远不止嵌入Deepseek进行交流这么简单,OpenWebUI社区提供了超级丰富的扩展功能,添加不同的MODEL简直就是信手拈来。

▼以Nikolas Tesla模型为例,在官网首页进入相应MODEL详情页,点击Get,之后就会出现一个小弹窗,在弹窗里面输入我们AI Plugins的地址+端口号就可以将对应模型导入进来。

▼其他还有图像生成AI提示词生成器、医生、法律助力、AI写作导师等近2000个Model,我们的AI完全可以是我们需要的样子。

▼重新选择模型后,只需要简单的输入一个单词,就能够给我们提供一段提示词了。

本地运行大模型效率如何
▼我新买的金百达16G内存还没到,这里只有板载的8GB内存+一条16GB的金百达内存,一共24GB内存,再加上运行又Openwrt虚拟机、Win10虚拟机,都占用了一定的系统资源,实际上如果是8B模型的化大致只会占用7.4GB左右的内存,我的本地应用占用了8.3GB内存。

▼在思考过程中CPU利用率最高能够推到45%左右,就像上面说的,还要考虑我开启的高负载虚拟化应用。

▼UGOS Pro提供的AI Plugins可以调用到NAS的核显,运行过程中利用率峰值25%,并且维持在25%,合理猜测绿联还是对GPU的调用进行了限制,不然应该可以上100%。

▼在切换14B模型以后内存占用22.1GB,14B模型实际占用13.8GB内存,在进行模型切换的时候需要一点时间,尤其是参数量较大的模型切换时时间会长一点,如果对话时卡顿、没有反应可以等一等,具体可以看任务管理器中的内存中占用什么时候发生变化。

本地化部署AI语言大模型选什么型号的NAS
▼通常情况下本地化部署AI大语言模型,要关注设备的CPU性能、GPU性能以及内存容量。以绿联AI Plugins应用为例,设备支持型号中包括DXP4800Plus、DXP6800系列、DXP8800系列以及DXP480T Plus系列。AI的出现让NAS普遍性能过剩的情况成为了过去时。

▼目前DXP4800Plus搭载Intel 奔腾 Gold 8505处理器已经算是AI NAS的守门员,市场主流消费级NAS搭载的N100处理器已经不大能负担的了跑AI的需求。
8505处理器配有5核心6线程,1个P核(性能核),4个E核(能效核),性能核最大睿频频率4.4GHz,能效核最大睿频频率3.3GHz。奔腾 Gold 8505核显为48EU,比桌面端英特尔i7-13700的核显还要多33%,比N100处理器执行单元多一倍。(N100的核显执行单元只有24个)。
综合来看,8505相较N100,单核性能高64%,多核性能高50%,核显性能要高100%。

▼同时绿联DXP4800Plus还是目前市售性价比蕞高的万兆品牌NAS,一体化的磨砂铝合金材质机身设计简约美观,4个3.5英寸盘位,2个m.2 SSD盘位,完全能够满足绝大多数家庭、工作室的高速数据存取需求。
目前绿联NAS产品享受国家补贴,直接补15%,打算入坑NAS、追求高性价比、一步到位的小伙伴不要错过咯。

写在最后
以DeepSeek为代表的AI的出现,有效借助工具可以缩小人与人之间的知识体系差距,另一方面,率先掌握并熟练应用AI工具的人将会逐步拉大与拒绝接受AI工具的打工人之间的差距。
相较单纯的进行DeepSeek本地化部署,绿联UGOS Pro提供的AI Plugins应用(OpenWeb UI),能够一站式的提供本地对话大模型、文生图、知识库等工具,可以说是助力用户熟练掌握AI工具的有力推手,绿联UGOS Pro又一次真香了,不愧是养成系NAS系统。
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

sweetskys
校验提示文案
海龍
校验提示文案
向上青年李小宝
校验提示文案
buhekele
校验提示文案
今天又是新的一天
校验提示文案
L白__
校验提示文案
异乡客栈
校验提示文案
obobi
校验提示文案
下雨天收衣服
校验提示文案
噶哈哈哈
校验提示文案
满状态金鱼眼
校验提示文案
下雨天收衣服
校验提示文案
obobi
校验提示文案
异乡客栈
校验提示文案
L白__
校验提示文案
海龍
校验提示文案
sweetskys
校验提示文案
满状态金鱼眼
校验提示文案
今天又是新的一天
校验提示文案
噶哈哈哈
校验提示文案
buhekele
校验提示文案
向上青年李小宝
校验提示文案