核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

2025-03-15 10:18:49 87点赞 133收藏 51评论

大家好,这里是Cherry,喜爱折腾、玩数码,热衷于分享自己的数码玩耍经验~

前言

3月13日,绿联发布了AI Plugins插件,集成了Open WebUI、Ollama、IPEX-LLM等开源工具,是NAS领域中首次将处理器核显运用于 AI 计算服务的。

该应用的发布,从某种意义上来说,算是NAS品牌官方对NAS定位的一次跃进,是NAS从数据存储中心,向家庭服务中心迈进的一个里程碑。

AI Plugins插件,可以通过绿联应用中心进行安装,本体是基于Docker 的Open WebUI应用,内置了Deepseek-R1:1.5b模型。

对于NAS玩AI,很多朋友都是通过DIY 设备 + 显卡的方式来做的,其主要原因就是本地AI对性能的要求还是比较高的。部分低功耗处理器,比如J4125、N100等,由于设计原因,没有办法支持去玩AI,形成了“”巧妇难为无米之炊“的局势。

目前该应用支持的设备型号见下方列表:

DXP4800 Plus
DXP6800 Plus
DXP6800 Pro
DXP8800
DXP8800 Plus
DXP8800 Pro
DXP480T Plus

🔻AI Plugins插件安装界面,安装时长较久,需要耐心等待。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

一、AI Plugins 初见

系统部署完成,我们可以通过绿联的Docker应用进行查看,有实力的小伙伴也可以根据自己的需求修改compose配置。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

在局域网环境下,直接点击AI Plugins应用就可以直接打开服务地址。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

而如果是外网环境下,那我们需要先安装一下绿联应用中心的firefox应用,通过远程firefox来打开AI Plugins启用(服务地址:http://NAS ip:13888)。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

初始化一个账号密码,正式进入系统了!Open WebUI版本是0.5.20版本,发布于25年3月5日。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

AI Plugins 内置了deepseek-r1:1.5b模型,我们也可以根据自己的需求下载新的其它模型。

官方建议用户根据绿联私有云设备的内存大小来决定使用哪个版本,以确保模型能正常运行。

🔻内存与参数建议:

8GB 内存:使用 2B 或更小的模型。
16GB 内存:使用 8B 或更小的模型。
32GB 内存:使用 14B 或更小的模型。

🔻推荐使用的热度模型和下载命令一览:

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

点击Open WebUI左上角的模型名称,我们通过键入下载命令来搜索模型下载。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

个人感觉上,模型的下载速度还是非常快的。如果有些同学下载速度过慢,建议适当优化一下网络。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

二、AI Plugins 基本配置

在正式开始使用前,我们还需要做几个基础配置,方便我们更好的使用该应用。

常见的配置包括:1、更多的AI模型;2、Agent智能体;3、提示词;4、知识库;5、网络检索功能。

1、更多的AI模型

AI Plugins内置了Ollama应用,因此我们可以直接调用本地的Ollama接口(localhost:14343)来下载模型,具体模型来源可见下方网站:

https://ollama.com/search

🔻嵌入式模型:主要用于文本、知识库管理

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

🔻视觉模型

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

🔻其它模型

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

然后我们将模型名称和参数规模组合起来,比如llava:7b,就可以拼装出下载命令。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

2、智能体、提示词、工具应用等

Agent智能体,则可以理解为一种工作流,它将引导我们进行智能体擅长的场景去进行对话。

在Open WebUI中,智能体也被叫做模型(区别于Model),点击界面左侧的工作空间,选择模型(智能体),点击下方发现更多模型转跳到Open WebUI社群。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

在社群里,我们可以找到各式各样大家分享的智能体。在找到合适自己的智能体以后,通过输入绿联私有云本地部署的AI Plugins地址,就可以自动将Agent导入到NAS本地运行(导入需要注册Open WebUI账号)。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

回到Open WebUI界面里,我们可以看到智能体已经被顺利导入,接下来我们只需要配置一个Model(比如deepseek-r1:7b),就可以运行了。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

我分别导入了一些智能体、提示词、工具,方法都一样,大家可以参照一下:

🔻智能体

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

🔻提示词

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

🔻工具应用

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

体验了一下这个塔罗牌的智能体,深度思考58秒后答复。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

3、其它配置(API调用、联网搜索等)

除了本地运行的Ollama之外,AI Plugins也支持通过API来调用外部模型。在设置-外部连接里,可以添加API BASEURL 和 API KEY来调用不同的模型。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

比如还可以配置联网搜索,文生图、文生视频等等。

🔻网络搜索

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

🔻VISION

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

🔻TTS

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

4、配置知识库

要使用知识库,我们必须配置嵌入式模型,否则无法实现文本向量化处理。大家可以根据第一步的教程先去下载嵌入式模型。

比如我添加了硅基流动免费的BAAI/bge-m3嵌入式模型,专门用来处理知识库功能。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

依旧是左上角点击工作空间,选择知识库。在这里我们可以导入文件、文件夹,或者粘贴文本形成知识库。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

嵌入式模型会对文本进行向量化处理,方便AI理解。这里我上传了数个我之前写文的Markdown格式的文件。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

如果想要在日常对话中调用知识库的,我们只需要通过指令#来唤醒就行了,十分简单。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

三、体验效果展示

由于Open WebUI和ollama是一个很复杂的体系,涉及到AI太多的知识了,所以我这边也就不一一介绍了,各位绿联用户可以自行体验。

因为办公室的网络速度问题,我暂时只下载了7b模型,接下来,我们来实际跑一跑本地运行deepseek-r1:7b的效果。

我这边使用的设备是绿联DXP 4800 Plus,采用Intel 金牌 8505处理器,GPU为12代Intel® UHD Graphics,最大执行单元48个。内存除了出厂自带的外,还增加了一块,一共组成24Gb内存,根据官方推荐,是可以跑8b模型的。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

寻常在NAS设备上运行 Open WebUI 容器,一般只能靠CPU来计算,所以导致的结果就是1秒钟往外蹦1个字。

而绿联私有云本次的 AI Plugins 应用,则通过引入 IPEX-LLM 技术让 Intel 的 GPU 也参与计算,大大增加了处理速度。相比过去只依赖 CPU 的方式,这种方法效率更高、性能更好。

在开始问题前,我们可以看到GPU调用是0。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

当deepseek-r1开始思考的时候,GPU使用率就飙升到了25%,并且一直保持着。由此推测,绿联私有云对GPU的使用还是做了限制的。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

CPU方面,当AI开始思考时,利用率从7%升到了23.5%左右,温度从45°升到了62°左右。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

deepseek-r1:7b花了48秒钟的时间进行了深度思考,然后开始输出内容。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

我把输出录制成了GIF,采用的是原速播放,没有调整速度。视频里看,输出的速度还是十分快的。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

当AI输出完毕后,任务管理器中可以看到GPU使用量就降到0了。

核显也能玩转AI!绿联NAS上架AI Plugins,AI-NAS时代即将来临

总结

绿联私有云本次上架的AI Plugins,通过集成Open WebUI、Ollama、IPEX-LLM,让NAS高性能无用论不攻自破。

整个应用从安装、配置、部署到使用,都比较人性化。而且操作简单,让新手小白用户也可以快速入手AI应用,绝对是NAS圈子里的一大步,也为 绿联后续 AI NAS产品的推出提供了经验。不得不让人再次期待iDX6011/iDX6011 Pro了~

最后,把本次deepseek-r1:7b输出的小作文——《关于我带着NAS穿越回了古代,帮助皇子勇夺天下》起稿!

"我来迟了。"

羊脂玉一般的皮肤上,有一道伤疤格外显眼,黑色的伤痂已经结成了薄茧,紧贴着发红的肉躁动着。她的手指被甲子勒得青黑,修长的手掌上布满划痕,每一道都像刻度一般精确地记录着什么。

她抬手擦了擦眼角的血迹,那是三天前在战斗中所见。月光如水般倾泻而下,在她雪白的连衣裙上投下斑驳的影子。

"小雨,该准备行动了。"

一个温和的声音从身后传来。

她猛地回头,看见几道人影在月光下若隐若现。那是一个由黑衣人组成的组织,领头者是一名身着黑色西装的男人,面容和善却双目如炬,嘴角挂着若有似无的笑意。

"都下去吧。"

她的声音有些沙哑,但依然保持着queen那种特有的冷冽与理性。她不是一个普通人,她带着一个秘密,一个只有她知道的秘密。

领头黑衣人似乎对她的话并没有半点惊讶,而是命令道:"去吧,去完成你的任务。"

"我......"她欲要开口,却见领头人眼中闪过一丝不易察觉的波动,那光芒像是从很远的地方传来,带着某种诡异的力量。

羊脂玉般的皮肤下泛起一阵寒意,她能感受到空气中弥漫着一股说不清道不明的气息,仿佛有什么东西正悄然靠近。

"你等得有点久了。"

身后传来一个沙哑的声音,"我需要你的协助。"

她的身体不受控制地僵硬起来,即使现在是战斗时的后遗症,那股强大的力量依然在身体中翻涌。

突然,一阵急促的脚步声由远及近,在寂静的空间里格外刺耳。她能清楚地看见几个黑衣人冲了上来,手中的武器发出刺耳的声响。

"都给我住手!"她的声音沙哑刺耳,带着最后一点queen特有的威严,"你们想干什么?"

领头人的脸上浮现出一丝复杂的表情,那光芒像是从很远的地方传来,似乎带着某种诡异的力量。

一股强大的气场突然在她周身环绕,她的身体不受控制地僵硬起来,即使现在是战斗时的后遗症,那股强大的力量依然在身体中翻涌。她能感觉到有人正在靠近,但她无法开口,只能通过 mental interface 与NAS 进行交流。

"紧急情况,启动翻译功能。"

" royal's message is pending. "

" prince needs to be saved."

突然,她感觉一阵剧烈的眩晕,意识仿佛被旋风卷走,在黑暗中旋转,直到 sheepys 的声音再次响起:

" you are not in the battlefield anymore."

她的视线重新清晰,看到一个身着玄色长袍的男人正站在不远处,修长的手指捏成紧握的状态,眼神深邃如潭。

" you really have come too far," he said, his voice low and smooth, " but you may not survive this time."

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
51评论

  • 精彩
  • 最新
  • 正好当初买的4800plus [跑步鸭_嗨]

    校验提示文案

    提交
    对,随便跑,还可以api 绝了

    校验提示文案

    提交
    咱这款NAS可以改造后外接老旧闲置显卡吗?

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 绿联可以插GPU卡了

    校验提示文案

    提交
    哪个可以插?

    校验提示文案

    提交
    我就这么一说你还当真啊。虽然有pcie口但是供电解决不了啊

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 绿联家的产品功能还真是好丰富了

    校验提示文案

    提交
    越做越好了属于是

    校验提示文案

    提交
    收起所有回复
  • 全民AI时代,我妈都用上了

    校验提示文案

    提交
    问问ai,比百度搜索靠谱多了啊

    校验提示文案

    提交
    收起所有回复
  • 真没想到NAS也能跑AI

    校验提示文案

    提交
    必须的啊,diy之后,成品nas也开始卷起来了

    校验提示文案

    提交
    收起所有回复
  • 这么说我的4800可以安排上了,下载了

    校验提示文案

    提交
    4800P才可以老哥!

    校验提示文案

    提交
    收起所有回复
  • 480T plus 32GB 可以跑14b了。就是不知道下载下来了做什么。用手机版联网搜搜用用也好像够了

    校验提示文案

    提交
    本地就是跑一下知识库的管理,然后一些敏感数据。当然也可以加入API 实现AI统一管理

    校验提示文案

    提交
    收起所有回复
  • 在nas上部署这种弱ai和在手机上app比,有什么值得运用的地方?不理解

    校验提示文案

    提交
    +1

    校验提示文案

    提交
    就跟有车还买自行车一个道理,没场景只是没需求。简单来说,比如本地知识库支持下的ai,有些人不喜欢开放,本地14b足够跑知识库筛选。其次就是做web集成,api和local在一起更好的做个人服务。

    校验提示文案

    提交
    收起所有回复
  • 不是有docket就可以随便装?

    校验提示文案

    提交
    没错,有docker是随便装应用,也可以自己打intel的gpu打驱补丁,毕竟都是开源项目。但是官方集成一个是新手易用,第二个是为以后官方的ai和gpu驱动探路。就像没nas os,debian照样可以用,然后nas os 概念完全不同。

    校验提示文案

    提交
    收起所有回复
  • 可惜我的电脑连无线网的,不是局域网用不了

    校验提示文案

    提交
    无线网不就是局域网吗

    校验提示文案

    提交
    弄好了,跑14b一个问题思考快20分钟,答非所问,15也是乱回答的

    校验提示文案

    提交
    收起所有回复
  • 评论区都是ai评论吗 [尴尬]

    校验提示文案

    提交
    啊?不会吧

    校验提示文案

    提交
    收起所有回复
  • 0.5b的大模型能用吗 [皱眉]

    校验提示文案

    提交
    有就可以,但是为啥要0.5b??

    校验提示文案

    提交
    收起所有回复
  • 应该可以搞m2转o口,然后外接显卡试试

    校验提示文案

    提交
    这个倒没试过,但供电是个问题

    校验提示文案

    提交
    转接出来的都是外置供电的,比如接出来后接铭凡的oculink显卡扩展坞

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 绿联自己的镜像ugreen/ipex-webui:v3,如果能自己部署就更灵活了。

    校验提示文案

    提交
    自己部署别的ai也行呀

    校验提示文案

    提交
    收起所有回复
  • 快催催idx6011 pro [哭泣]

    校验提示文案

    提交
    好像还没动静

    校验提示文案

    提交
    收起所有回复
  • 瞎搞

    校验提示文案

    提交
  • 想换个评论区就和假的一样

    校验提示文案

    提交
  • AI已来,各种设备都得用上试试

    校验提示文案

    提交
  • 比传统NAS上手难度低很多

    校验提示文案

    提交
  • 真的缺一个NAS,外出调用文件或者给手机扩容都挺方便

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
133
扫一下,分享更方便,购买更轻松