无限Tokens的快乐,是NAS带来的!绿联DXP6800 Ultra外接独显实战
哈喽小伙伴们好,我是Stark-C~
前段时间不是整了一台绿联DXP6800 Ultra私有云NAS嘛!说实话,都整到这个配置级别了,如果只是把它当作普通NAS来存文件、做备份未免有点大材小用,既然硬件性能摆在这儿,不折腾点更有意思的玩法总觉得少了点什么。
然后这几年AI又这么火,既然绿联DXP6800 Ultra的CPU、内存、雷电4接口都给到位了,所以我在想:能不能把独立显卡也给安排上,把它打造成一个AI工作站。这样我以后折腾大模型、部署智能体、搭建AI应用的时候,算力不够的话就直接让独显顶上,让独显来“暴力加点”!这,听上去是不是很有搞头?

嗯,听起来想法确实不错!到底能不能成,我们今天就来实战验证一番~
绿联DXP6800 Ultra的优势

🔺为了让一些对绿联DXP6800 Ultra还不太了解的朋友快速进入状态,先来简单介绍一下它的亮点和优势:
作为绿联目前定位高端的六盘位私有云产品,DXP6800 Ultra搭载了电脑主机级别的英特尔Core 5 120U处理器,拥有10核心12线程设计,最高睿频可达5.0GHz,所以对比绝大多数的家用级NAS,它在多任务处理、服务部署方面都有着更强的性能基础。
存储方面,它采用了6个SATA盘位+2个M.2固态插槽,理论总存储容量最高可达208TB(6 × 32TB + 2 × 8TB)。这个体量说实话不管是搭建家庭影音库、专业人员的素材库,还是作为AI项目的数据仓库都完全够用了。
网络规格同样相当豪华,配备了两个10GbE的万兆网口,并支持链路聚合,理论上可带来最高20G带宽,对于大规模数据传输、素材在线编辑,以及AI大模型的文件同步肯定会有明显优势。
另外,绿联DXP6800 Ultra还预留了一个PCIe Gen4 x4扩展插槽,给我们留下了更多升级和再折腾的空间。比如说加装万兆网络扩展卡、M.2 SSD扩展卡,甚至是额外的算力卡等设备。

🔺最重要的,它还给到了两个雷电4接口!要知道这两接口可不是为了秀参数配置啥的啊~,它不仅能够提供40Gbps的单口带宽,为我们带来高速存储能力;最关键的是,它还为我们今天的外接独显测试打开了大门。也就是说,绿联DXP6800 Ultra外接独显的前提其实就是用的这两个雷电4接口。
如果说想要看看绿联DXP6800 Ultra更详细的深度评测,请移步我之前发布的体验文章:
绿联DXP6800 Ultra雷电4外接独显实战
1,如何给绿联DXP6800 Ultra雷电4外接独显

🔺想要在绿联DXP6800 Ultra上使用独显,除了准备独立显卡,还需要支持雷电接口的显卡扩展坞。具体的兼容情况在绿联往往有说明,我这里就不赘述,只介绍我自己的这套方案:
我使用的显卡是一张NVIDIA RTX 3060Ti,虽然不是什么旗舰产品,但也算是非常经典且主流的“甜品级”显卡,用来运行部分主流AI应用、部署一些中小尺寸的AI大模型还是够用的;
我使用的显卡坞来自圈内大佬@逍遥君提供的『逍遥君CX雷电显卡坞』,采用的是Intel JHL7540雷电认证主控案,标配PCle3.0x4 PCle接口与两个雷电4接口。正常来说,在雷电外接我这张显卡的场景下,至少能发挥独显90%以上的性能。

🔺将已装上显卡的扩展坞通电并通过雷电接口链接绿联DXP6800 Ultra之后,在“控制面板--硬件与电源--独立显卡”中可以看到,它已经自动识别出了我的NVIDIA RTX 3060Ti独显,不过此时显示的是“无驱动”状态。

🔺好在绿联UGOS系统已经在应用中心准备好了驱动,我们直接过去安装即可。

🔺为了后面的相册和Docker也能直接调用独显,建议大家在应用中心将这里的三个NVDIA驱动包一次性都给安装好。

🔺安装好之后,刷新下页面(其实就是切换一下),就能看到它的状态已经显示“正常”,就说明绿联DXP6800 Ultra的外接独显安装成功了。需要说明的是:为了真正激活外接独显的功能,我们此时还需要重启一下NAS系统!

🔺重启系统之后,我们就能在“任务管理器--运行状态”中的GPU监控信息中看到多出来的外置独显了。
2,UGOS系统自带AI能力对比

🔺绿联UGOS系统其实已经集成了一些需要AI支持的功能,比如相册中的人脸识别、文字识别(OCR)、画面识别,以及自然语言搜索等。我们在启用这些AI功能之后,绿联UGOS系统是默认为我们开启GPU硬件加速的,这个我们是可以通过“任务管理器--运行状态”中的GPU监控信息中看到。
我当前是在不外接独立显卡,仅使用DXP6800 Ultra自带核显(Intel Iris Xe Graphics)进行测试,将相册中将近5000张照片的人物识别进行“重新识别”,使用了差不多5分钟的时间全部完成。

🔺当我外接独立显卡独显之后,在相册的“智能设置”里会多出一个“GPU加速”的开关模块,开启之后,我同样是将人物识别进行“重新识别”操作,在GPU监控信息中看到独显已经被成功调用,而此时的完成时间仅用了不到2分钟的时间,相比前面纯核显表现,识别效率提升非常明显。
3,绿联DXP6800 Ultra部署本地大模型
如果说我花了这么多功夫加装独显只是为了给相册GPU提速,多少有点大材小用了。所以我更关心的是它能不能顺利运行本地AI大模型,或者承担一些真正需要GPU算力的AI任务。

🔺好在目前绿联UGOS系统已经原生支持GPU硬件直通功能,不管是虚拟机还是Docker,都能直接调用独显资源,从而为AI推理、大模型部署以及各类AI应用提供更强的算力支持。

🔺为了更直观地对比独显接入前后的AI性能差异,我们先来进行本地AI大模型进行了测试。测试环境采用的是Docker部署的Ollama,前后测试均使用“qwen2.5:7b” 模型。这个参数量级的模型已经具备代码生成和结构化数据处理能力,所以像日常AI对话、文档总结、内容创作、编程辅助、知识库搭建等任务基本都能胜任了。

🔺绿联UGOS系统对于Docker的管理还是挺细节的,我们在编辑容器的时候就可以自由选择容器调用的硬件资源,比如说使用CPU、核显GPU,还是外接独立显卡。

🔺我们一个个地来测试,先看看使用CPU的结果,整个过程调用的CPU资源并不高,在17%左右,最终得出了4.93 tokens/s的成绩。这个结果只能说很一般,实际用起来其实也算勉强能接受把~

🔺然后再调用核显GPU看看,出来的结果是8.31 tokens/s,相比纯CPU模式,性能提升约68%,另外核显的调用也大幅减轻了CPU的负担,整个过程利用率都没超过10%。
虽说性能提升不是很大,但对于NAS场景而言,能以核显换来较为明显的推理速度增长,并且还降低了CPU占用,这个价值有一说一,还是比较实用的。

🔺OK,直接上独显!没错,结果直接飙到了95.98 tokens/s,相比CPU模式下的4.74 tokens/s,性能直接提升了20倍以上!文字生成那真的是咔咔流畅,几乎就不需要等待时间。并且它也是够夸张的,直接调用了独显90%以上的利用率,功耗几乎都拉满了~。

🔺那么有了独显加持的Ollama本地大模型之后,我们就可以放心大胆地折腾各种AI应用了。无论是本地AI助手、知识库搭建、还是诸如小龙虾、爱马仕这类AI Agent,都可以直接调用本地大模型进行推理了。

🔺因为我本人是搞文字类创作的嘛,所以知识库算是日常使用频率最高的一类AI应用了。我这里使用的是基于Open WebUI搭建的本地知识库方案(之前专门出过教程的~),配合部署好的Ollama本地大模型,平时无论是整理资料、查询过往文章内容,还是辅助内容创作,都相当顺手。

🔺上图是我完全没有加速的生成效果动图,有一说一,独显加持的本地大模型响应速度确实挺快!更重要的是,我这所有的操作和相关数据都完全在本地,哪怕是断网都不影响,隐私安全也更有保障。
4,独显加持下的生图表现
不过光跑大模型总觉得差点意思,我还想整点更有难度的玩法,比如AI生图、AI生视频之类的玩法。毕竟相比文字生成,这些应用对于GPU算力的需求更高,也更能体现独显存在的价值。

🔺我同样是在绿联DXP6800 Ultra上通过Docker的方式部署了ComfyUI项目,相信不少折腾AI的朋友应该都不陌生,这个应该是目前比较热门的本地AI生图工具,并且还是已经具备实际生产力的那种。

🔺生图模版我先选择SDXL文生图(简单),主要是这个模型自带就有,不用下载。

🔺整个生成过程比预想中的快,从提交任务到生成完成并没有等待太久,而且整个过程相当稳定。

🔺我还特意观察了独显的资源占用情况,整个过程全部调用的都是独显算力和资源,GPU占用率整个过程基本都处于100%,看来这块显卡是真没白接呀。

🔺换个玩法,在来一个智谱开源的MOSS-Image文生图模型,所需要的大模型我已经提前下载好并上传到NAS对应的模型目录中了。

🔺我整的提示词是:UGREEN NAS server connected to an external RTX graphics card, AI workstation setup, futuristic technology style, blue neon lighting, professional product photography, ultra realistic, highly detailed。(我是把自己的意思表达出来,让AI写的英文描述,主要表达我今天给大家分享的内容:NAS+独显)

🔺我实测基本上15s内就出一张图片,这效率简直比我在线生图还要快!
5,独显加持下的视频表现

🔺生图就够让我兴奋的,要不继续上难度,直接生视频瞅瞅?我选择的是免费Wan2.2 TI2V 5B的GGUF量化版(Wan 2.5之后开始付费了~),毕竟我的这张3060Ti显卡的8GB显存确实有点不够看。

🔺然后我整的提示词是“一只橘猫趴在阳光洒落的窗台上,缓慢地伸了个懒腰,尾巴轻轻摆动,毛发细节清晰,柔和的自然光,镜头缓慢向前推进,电影感,高清”(这个是支持中文的),生成视频的规格是832×480/24fps/2.04s,整个过程耗时118s,也就是不到两分钟完成,速度还是挺快的!

🔺给大家展示想恰生成效果,是不是挺棒的?
总结
看到这里,我想大家也应该明白了:NAS+独显,还是很有搞头的!
对于绿联DXP6800 Ultra来说,当它和独显组合到一起的时候,既保留了NAS原本的数据存储和管理能力,又能获得额外的GPU算力,让它具备接近专业AI主机的推理能力。这样一来,原本主要负责存储和数据管理的NAS,也能进一步承担AI计算、服务部署等任务,真正变成一台集存储、计算和应用于一体的全能平台。
如果是创作者,还能把NAS变成AI创作中心。通过SMB挂载素材库,一边跑AI生图配文,一边生成视频素材直接拿来剪辑。配合双万兆网络,素材、生成和工程文件都能高速本地流转,不用来回拷贝文件,创作效率直接拉满。

🔺同时也印证了:NAS上的雷电接口也并不只是配置表上的一个卖点,因为它确实能在实际使用中发挥很大的扩展作用。就像这次外接独显的测试,当绿联DXP6800 Ultra拥有了额外的GPU算力后,除了日常的数据存储和管理,我们还可以用它来搭建本地AI大模型、部署本地AI应用,甚至充当一台AI工作站。
最重要的是,这些AI应用和模型都部署在本地运行,数据不需要上传到第三方,既能更好地保护个人隐私和重要资料,也不用我们花钱购买各种AI套餐和API服务。对于有本地AI需求、又比较看重数据安全的用户来说,这或许就是绿联DXP6800 Ultra外接独显的意义所在!
好了,以上就是今天给大家分享的内容,我是爱分享的Stark-C,如果今天的内容对你有帮助请记得收藏,顺便点点关注,咱们下期再见!谢谢大家~

校验提示文案
校验提示文案