核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临
大家好,这里是Cherry,喜爱折腾、玩数码,热衷于分享自己的数码玩耍经验~
前言
3月13日,绿联发布了AI Plugins插件,集成了Open WebUI、Ollama、IPEX-LLM等开源工具,是NAS领域中首次将处理器核显运用于 AI 计算服务的。
该应用的发布,从某种意义上来说,算是NAS品牌官方对NAS定位的一次跃进,是NAS从数据存储中心,向家庭服务中心迈进的一个里程碑。
AI Plugins插件,可以通过绿联应用中心进行安装,本体是基于Docker 的Open WebUI应用,内置了Deepseek-R1:1.5b模型。
对于NAS玩AI,很多朋友都是通过DIY 设备 + 显卡的方式来做的,其主要原因就是本地AI对性能的要求还是比较高的。部分低功耗处理器,比如J4125、N100等,由于设计原因,没有办法支持去玩AI,形成了“”巧妇难为无米之炊“的局势。
目前该应用支持的设备型号见下方列表:
DXP4800 Plus
DXP6800 Plus
DXP6800 Pro
DXP8800
DXP8800 Plus
DXP8800 Pro
DXP480T Plus
🔻AI Plugins插件安装界面,安装时长较久,需要耐心等待。

一、AI Plugins 初见
系统部署完成,我们可以通过绿联的Docker应用进行查看,有实力的小伙伴也可以根据自己的需求修改compose配置。

在局域网环境下,直接点击AI Plugins应用就可以直接打开服务地址。

而如果是外网环境下,那我们需要先安装一下绿联应用中心的firefox应用,通过远程firefox来打开AI Plugins启用(服务地址:http://NAS ip:13888)。

初始化一个账号密码,正式进入系统了!Open WebUI版本是0.5.20版本,发布于25年3月5日。


AI Plugins 内置了deepseek-r1:1.5b模型,我们也可以根据自己的需求下载新的其它模型。
官方建议用户根据绿联私有云设备的内存大小来决定使用哪个版本,以确保模型能正常运行。
🔻内存与参数建议:
8GB 内存:使用 2B 或更小的模型。
16GB 内存:使用 8B 或更小的模型。
32GB 内存:使用 14B 或更小的模型。
🔻推荐使用的热度模型和下载命令一览:

点击Open WebUI左上角的模型名称,我们通过键入下载命令来搜索模型下载。

个人感觉上,模型的下载速度还是非常快的。如果有些同学下载速度过慢,建议适当优化一下网络。

二、AI Plugins 基本配置
在正式开始使用前,我们还需要做几个基础配置,方便我们更好的使用该应用。
常见的配置包括:1、更多的AI模型;2、Agent智能体;3、提示词;4、知识库;5、网络检索功能。
1、更多的AI模型
AI Plugins内置了Ollama应用,因此我们可以直接调用本地的Ollama接口(localhost:14343)来下载模型,具体模型来源可见下方网站:
🔻嵌入式模型:主要用于文本、知识库管理

🔻视觉模型

🔻其它模型

然后我们将模型名称和参数规模组合起来,比如llava:7b,就可以拼装出下载命令。


2、智能体、提示词、工具应用等
Agent智能体,则可以理解为一种工作流,它将引导我们进行智能体擅长的场景去进行对话。
在Open WebUI中,智能体也被叫做模型(区别于Model),点击界面左侧的工作空间,选择模型(智能体),点击下方发现更多模型转跳到Open WebUI社群。

在社群里,我们可以找到各式各样大家分享的智能体。在找到合适自己的智能体以后,通过输入绿联私有云本地部署的AI Plugins地址,就可以自动将Agent导入到NAS本地运行(导入需要注册Open WebUI账号)。

回到Open WebUI界面里,我们可以看到智能体已经被顺利导入,接下来我们只需要配置一个Model(比如deepseek-r1:7b),就可以运行了。

我分别导入了一些智能体、提示词、工具,方法都一样,大家可以参照一下:
🔻智能体

🔻提示词

🔻工具应用

体验了一下这个塔罗牌的智能体,深度思考58秒后答复。

3、其它配置(API调用、联网搜索等)
除了本地运行的Ollama之外,AI Plugins也支持通过API来调用外部模型。在设置-外部连接里,可以添加API BASEURL 和 API KEY来调用不同的模型。


比如还可以配置联网搜索,文生图、文生视频等等。
🔻网络搜索

🔻VISION

🔻TTS

4、配置知识库
要使用知识库,我们必须配置嵌入式模型,否则无法实现文本向量化处理。大家可以根据第一步的教程先去下载嵌入式模型。
比如我添加了硅基流动免费的BAAI/bge-m3嵌入式模型,专门用来处理知识库功能。

依旧是左上角点击工作空间,选择知识库。在这里我们可以导入文件、文件夹,或者粘贴文本形成知识库。

嵌入式模型会对文本进行向量化处理,方便AI理解。这里我上传了数个我之前写文的Markdown格式的文件。

如果想要在日常对话中调用知识库的,我们只需要通过指令#来唤醒就行了,十分简单。

三、体验效果展示
由于Open WebUI和ollama是一个很复杂的体系,涉及到AI太多的知识了,所以我这边也就不一一介绍了,各位绿联用户可以自行体验。
因为办公室的网络速度问题,我暂时只下载了7b模型,接下来,我们来实际跑一跑本地运行deepseek-r1:7b的效果。
我这边使用的设备是绿联DXP 4800 Plus,采用Intel 金牌 8505处理器,GPU为12代Intel® UHD Graphics,最大执行单元48个。内存除了出厂自带的外,还增加了一块,一共组成24Gb内存,根据官方推荐,是可以跑8b模型的。

寻常在NAS设备上运行 Open WebUI 容器,一般只能靠CPU来计算,所以导致的结果就是1秒钟往外蹦1个字。
而绿联私有云本次的 AI Plugins 应用,则通过引入 IPEX-LLM 技术让 Intel 的 GPU 也参与计算,大大增加了处理速度。相比过去只依赖 CPU 的方式,这种方法效率更高、性能更好。
在开始问题前,我们可以看到GPU调用是0。

当deepseek-r1开始思考的时候,GPU使用率就飙升到了25%,并且一直保持着。由此推测,绿联私有云对GPU的使用还是做了限制的。

CPU方面,当AI开始思考时,利用率从7%升到了23.5%左右,温度从45°升到了62°左右。

deepseek-r1:7b花了48秒钟的时间进行了深度思考,然后开始输出内容。

我把输出录制成了GIF,采用的是原速播放,没有调整速度。视频里看,输出的速度还是十分快的。

当AI输出完毕后,任务管理器中可以看到GPU使用量就降到0了。

总结
绿联私有云本次上架的AI Plugins,通过集成Open WebUI、Ollama、IPEX-LLM,让NAS高性能无用论不攻自破。
整个应用从安装、配置、部署到使用,都比较人性化。而且操作简单,让新手小白用户也可以快速入手AI应用,绝对是NAS圈子里的一大步,也为 绿联后续 AI NAS产品的推出提供了经验。不得不让人再次期待iDX6011/iDX6011 Pro了~
最后,把本次deepseek-r1:7b输出的小作文——《关于我带着NAS穿越回了古代,帮助皇子勇夺天下》起稿!
"我来迟了。"
羊脂玉一般的皮肤上,有一道伤疤格外显眼,黑色的伤痂已经结成了薄茧,紧贴着发红的肉躁动着。她的手指被甲子勒得青黑,修长的手掌上布满划痕,每一道都像刻度一般精确地记录着什么。
她抬手擦了擦眼角的血迹,那是三天前在战斗中所见。月光如水般倾泻而下,在她雪白的连衣裙上投下斑驳的影子。
"小雨,该准备行动了。"
一个温和的声音从身后传来。
她猛地回头,看见几道人影在月光下若隐若现。那是一个由黑衣人组成的组织,领头者是一名身着黑色西装的男人,面容和善却双目如炬,嘴角挂着若有似无的笑意。
"都下去吧。"
她的声音有些沙哑,但依然保持着queen那种特有的冷冽与理性。她不是一个普通人,她带着一个秘密,一个只有她知道的秘密。
领头黑衣人似乎对她的话并没有半点惊讶,而是命令道:"去吧,去完成你的任务。"
"我......"她欲要开口,却见领头人眼中闪过一丝不易察觉的波动,那光芒像是从很远的地方传来,带着某种诡异的力量。
羊脂玉般的皮肤下泛起一阵寒意,她能感受到空气中弥漫着一股说不清道不明的气息,仿佛有什么东西正悄然靠近。
"你等得有点久了。"
身后传来一个沙哑的声音,"我需要你的协助。"
她的身体不受控制地僵硬起来,即使现在是战斗时的后遗症,那股强大的力量依然在身体中翻涌。
突然,一阵急促的脚步声由远及近,在寂静的空间里格外刺耳。她能清楚地看见几个黑衣人冲了上来,手中的武器发出刺耳的声响。
"都给我住手!"她的声音沙哑刺耳,带着最后一点queen特有的威严,"你们想干什么?"
领头人的脸上浮现出一丝复杂的表情,那光芒像是从很远的地方传来,似乎带着某种诡异的力量。
一股强大的气场突然在她周身环绕,她的身体不受控制地僵硬起来,即使现在是战斗时的后遗症,那股强大的力量依然在身体中翻涌。她能感觉到有人正在靠近,但她无法开口,只能通过 mental interface 与NAS 进行交流。
"紧急情况,启动翻译功能。"
" royal's message is pending. "
" prince needs to be saved."
突然,她感觉一阵剧烈的眩晕,意识仿佛被旋风卷走,在黑暗中旋转,直到 sheepys 的声音再次响起:
" you are not in the battlefield anymore."
她的视线重新清晰,看到一个身着玄色长袍的男人正站在不远处,修长的手指捏成紧握的状态,眼神深邃如潭。
" you really have come too far," he said, his voice low and smooth, " but you may not survive this time."
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

morok2008
校验提示文案
又不聪明还学人家秃顶
校验提示文案
考神附体
校验提示文案
中号硬核玩家
校验提示文案
Ryan_So
校验提示文案
风吹pp凉嗖嗖
校验提示文案
yao_lifeng
校验提示文案
liang77
校验提示文案
小_魚_兒
校验提示文案
xiahua3
校验提示文案
拯救牛头人
校验提示文案
boyLen
校验提示文案
YBLoveCX
校验提示文案
myMike
校验提示文案
神一样的阿布
校验提示文案
莫宇曦
校验提示文案
ijwstl
校验提示文案
岁月稠
校验提示文案
失落滴趴趴熊
校验提示文案
极客速报
校验提示文案
LostAlone
校验提示文案
神一样的阿布
校验提示文案
myMike
校验提示文案
YBLoveCX
校验提示文案
爱折腾的老狐狸
校验提示文案
boyLen
校验提示文案
极客速报
校验提示文案
失落滴趴趴熊
校验提示文案
岁月稠
校验提示文案
拯救牛头人
校验提示文案
xiahua3
校验提示文案
小_魚_兒
校验提示文案
liang77
校验提示文案
ijwstl
校验提示文案
莫宇曦
校验提示文案
yao_lifeng
校验提示文案
风吹pp凉嗖嗖
校验提示文案
Ryan_So
校验提示文案
中号硬核玩家
校验提示文案
考神附体
校验提示文案