闲置显卡别浪费!NAS接上秒变 AI 算力站|搭建7*24家用算力中心
NAS应该算是家里或者工作室中,开机时间最长的一类设备。
照片、影片、工作资料、剪辑素材,基本都会集中存放在NAS中。我想很多人的NAS买回来以后,也是常年保持7×24小时运行。(除了少部分电费敏感用户,可能会每天定时开关机)
但如果仔细想想,如果只是备份照片、下载影片、共享文件,再运行几个Docker应用。对于一台硬件配置不低的NAS来说,多少显得有些大材小用。

可现在是AI时代,NAS如果只是传统的数据存储设备,多少有点跟不上时代的潮流。我开始尝试让NAS承载更多的工作。
比如部署本地大模型,对NAS中存储的资料进行分析建立知识库;比如分析NAS中存放的视频,自动生成字幕等等
但真正开始尝试之后,很快又遇到一个新的问题:NAS本身的性能可能并不能很好的满足AI的需求。
那有什么更好的方法可以解决性能问题呢?

外接显卡
这是大部分NAS厂商给出的答案,通过雷电/OCU/PCIe槽位等等方式,外接一张独显。如果遇到需要非常强性能的场景时,可以调用独显的算力进行计算。
但是需要注意,也不是所有的NAS设备都支持外接显卡,只有在一些中高端的NAS上才有外接独显的接口,并且也需要NAS系统能够做到支持。
那咱们这次使用的是来自绿联的六盘位新品NAS DXP6800 Ultra。
家用六盘新旗舰选择—绿联DXP6800 Ultra
从纸面参数来看,DXP6800 Ultra并不只是一台面向照片备份和家庭影音的入门NAS。

它搭载Intel Core 5 120U处理器,采用10核心12线程设计,基础频率1.4GHz,最高睿频可以来到5.0GHz,同时集成了80EU规格的Intel Iris Xe核显。

120U的性能毋庸多说了,我们也简单跑了下geekbench5,单核得分1124多核得分4863,如果你有虚拟机、多Docker等需求,加装内存后,也能轻松应对这些需求。

在家用常见的转码场景中,我们也做了对应的测试,同时转码多条4K 30 AV1轨道,都能做到即点即播,可以说在家用场景下,这颗U已经能完全满足用户的需求了。

我们手上这台标配的是8G DDR5内存,同时搭配两个内存插槽,最高可以支持扩展到96G。当然我想在目前内存价格暴涨的情况下,应该没人会给NAS 搭配超大内存。那同时呢,这台设备的系统盘采用的是一块128G的SSD,这...能做什么你应该懂了吧(🐶)

Core 5 120U自然提供了更多的PCIe通道,扩展性方面相比于常规的家用NAS来肯定是强了不少。在网口方面DXP6800 Ultra提供了两个10GbE万兆网口。
对于个人用户来说,一个万兆网口基本已经够用;但放在工作室环境中,双万兆可以同时服务多台高速客户端,也能够为多人并发访问留出更多余量。

其它接口方面,6800 Ultra的正面提供了两个雷电4接口、一个USB 3.2 Gen2接口和SD 读卡器;

背面一个USB 3.2 Gen 2、两个USB 2.0以及HDMI接口,HDMI最高支持8K 60Hz输出,当然还有刚刚提到的两个万兆网络接口。

同时打开侧边的盖板,机身内部还提供了一个PCIe x4接口,你可以再为插上一张双口PCIe万兆网卡,嘿嘿!原本的双万兆网口瞬间就变成了四个万兆口!并且由于UGOS Pro底层使用的是debian系统,内核比较新,我这边试过好多张PCIe网卡,都能直接免驱;你也能插上PCIe存储设备,这样你的DXP6800 Ultra就有了更大的固态存储空间,可以说扩展性非常强。
盘位方面,6800 Ultra采用的是6sata+2 M.2的组合,理论上,如果你拥有钞能力,堆满能提供208TB的存储空间,这对于大部分用户或者说对于大部分有专业需求的用户,这个存储空间都是完全够用的。
那既然说到了硬盘,现在硬盘价格这么贵,咱们中小工作室NAS应该怎么选硬盘呢?
团队工作室硬盘怎么选?
对于视频工作室来说,NAS里存放的不只是成片,还有相机原片、剪辑工程、代理文件和各种历史版本。单个项目占用几百GB很正常,多机位、高码率素材甚至很容易超过1TB。
因此,工作室选硬盘不能只看容量和价格,还要考虑能否适应7×24小时运行、长时间持续读写,以及多人同时访问。
比如一台电脑正在从NAS读取素材剪辑,另一台电脑同时上传文件,后台还有Docker应用读取数据,这种负载显然和普通电脑中的间歇性读写不同。

这次DXP6800 Ultra中使用的,就是东芝N300 NAS专用硬盘。

东芝N300采用CMR传统磁记录技术和7200RPM转速,面向7×24小时运行环境设计,支持最高12盘位NAS,额定工作负载最高为180TB/年。

针对多盘位环境,N300还内置RV旋转振动传感器,用来降低多块机械硬盘同时运行时,旋转振动对硬盘工作状态产生的影响。特别是咱们这6800 Ultra 六盘位NAS,磁盘运行时带来的振动是不容忽视的一点,这时N300的内置RV旋转振动传感器就能保持硬盘相对稳定的运行。

咱们这也进行了传输的相关测试,使用JBOD模式,连上万兆口,传输一份160G的文件,能够维持在200MB/s以上的速度,这个表现在机械盘中算的上是非常不错了。

但,在实际的生产环境中,硬盘的温度表现也会影响到硬盘的寿命。所以在长时间高负载的情况下,能否保持相对低的温度就显得非常重要。
咱们这进行一小时的满载测试,看看在极限情况下,CPU、硬盘的温度表现如何。
极限1小时压测表现

测试开始时,室温25℃:
CPU封装温度为53℃;
RTX 3080核心温度为48℃;
第一块硬盘温度为42℃;
完整温度数据如下:
CPU最高温度为72℃,稳定阶段平均约69.5℃
RTX 3080最高温度同样为72℃,稳定阶段平均约71.6℃。
硬盘方面,初始温度42℃,稳定运行时基本维持在44℃左右,最高记录为45℃。这个温度在极限压测中表现还算是很不错的了。如果是后续将六盘全部塞满,温度可能会稍微升高一些,但也在安全温度以内,非常适合中小型工作室里面7*24小时运行;

同时CPU和硬盘的温度表现,也从侧面反映出这台DXP6800 Ultra的散热系统非常高效,能有效将内部的热量带出。

功耗方面,我们这简单测试了下,在插入两块东芝N300 8T硬盘时,待机功耗基本上在37瓦左右;

在满载情况下,功耗在45瓦左右,如果全部插满硬盘,功耗可能会在对应增加15瓦左右,对于这样一台性能强悍的NAS来说,这个功耗还是可以接受的。
相信看到这里,大家伙对于这台NAS的性能有了一定的了解,可能有的小伙伴可能会问了,性能都这么强了,何必再上独显呢?

那咱们前面也说过了,上独显是为了满足更强的性能需求,如果你的需求没有那么高,其实也是完全没有必要的。
独显有什么用?
咱们先来看到绿联UGOS Pro系统自带的应用中外接独显都能有什么用。
相册调用独显:海量照片用户福音
UGOS Pro系统中自带的相册应用中有不少的识别模型,下载模型之后可以利用这些模型对相册内的照片进行识别分析,方便后续搜索等等操作。

咱们这相册中的照片不多,只有一万多张,先来看看不使用独显,核显的计算速度能有多少。

可以看到在启用独显计算之后,这个识别的速度要比单独使用核显快上不少。
但有的小伙伴可能会说了:我插上一点独显就为了相册识别?那是不是有点太大材小用了呢?那我给这台NAS接上独显还能怎么玩呢?

在七月的更新中,UGOS Pro中增加了独显直通Docker的功能,咱们之后部署的Docker容器如果对独显有支持的话,就能直接使用这个功能在Docker中使用独显的算力了。
Ollama调用独显:228倍的速度提升
现在各种模型的发展确实很令人惊讶,但现在很多使用都还得通过接入在线API的形式,说实话能力确实强了,但隐私泄露的风险也还是有的。那在本地部署属于自己的AI助手用途还是非常广泛的。
可如果单纯使用CPU来跑本地模型,我想用过的朋友肯定都不想再经历一遍,实在是太慢了!那既然咱们这已经接上了独显,就来用独显来试试吧!

我们这在DXP6800 Ultra上部署了Qwen2.5系列的几个模型,通过对比不难发现,在7B模型下,使用独显的速度是CPU的两百多倍!那同时由于模型跑在CPU上是需要占用内存的,而咱们这台6800 Ultra只有8G的内存,在某些情况下还存在根本运行不起来的情况;但使用GPU的话,模型是加载进显存,像咱们这12G的3080运行7B的模型基本上不成问题,如果更大一点的14B,就需要分层到CPU,速度相比于单独使用GPU要慢一些。
而且在模型加载速度上,使用独显的速度也要比CPU快上不少。


咱们这测试一个经典AI问题,可以看到在独显模式下,模型回答的非常快;而CPU模式下...这个回答的速度几乎就是完全不可用的状态。

咱们的NAS是7*24小时运行,这样通过Ollama将模型部署在我们NAS本地,有推理需求时自动调用独显进行计算,空闲时独显也是处于待机状态,功耗也比较低;再通过UGreen Link的远程访问功能,咱们就获得了一个7*24小时部署在本地的AI助手了。
那有的小伙伴可能会说:我平时对于AI助手的需求几乎为零,本地部署AI模型对我来说完全没用,能不能有别的什么玩法呢?
嘿嘿!我这开发了一个生成AI字幕的docker应用,原先是使用CPU来计算,但是发现速度实在是太慢了,那现在通过雷电口接上独显,也就能利用独显来生成字幕,速度要快上不少。(这个项目是我自己开发的,目前还有些许bug,先拿来做测试了,后面完善之后再发布和上架绿联应用商店)
不只是聊天:独显还能拿来做AI字幕生成
原先这个应用一直是使用CPU来计算的,但实际体验下来,最大的问题只有一个:速度太慢。

既然现在DXP6800 Ultra已经通过雷电口接上了独显,那这个应用自然也就能调用独显来进行字幕生成。
这次我们直接拿一条接近三小时的英文影片来测试,看看在CPU和独显两种模式下,生成速度到底能差多少。
这次测试主要用了faster-whisper引擎,并分别测试了 tiny 和 small 两个模型。

先来看到tiny模型:
GPU模式总耗时:1分39秒
CPU模式总耗时:2分15秒
这个差距不算特别夸张,大概是 1.4倍。主要还是因为tiny模型本身计算量比较小,瓶颈更多是在音频提取和数据搬运上,GPU的优势没有完全发挥出来。但tiny模型生成的字幕准确率上要更差一些。
咱们再将模型切换到small看看,看看差距能有多少。
GPU模式总耗时:2分22秒
CPU模式总耗时:12分26秒
也就是说,small模型下,接入独显的情况下,速度相比于CPU模式提升了5.3倍!
这样的话,如果以后再遇到没有字幕的影片,通过这个Docker应用调用独显能力,也就能比较快地把字幕生成出来。
那有的小伙伴可能会说了:DXP6800 Ultra这么多的盘位,像前面说的,非常适合在中小型工作室里面使用,同时也是作为视频工作室,平时有非常多的素材资料存在里面,想要找起来非常困难。那既然接上独显算力很猛,能不能对本地的素材进行计算呢?生成可搜索的描述呢?
咱们这也是直接vibe coding了一个本地素材管理工具,将需要分析的素材挂载上,就能自动开始分析并且生成描述以及可以进行RAG搜索。但如果是使用NAS本身的性能进行分析,素材量太多的情况下,需要耗费大量的时间,那接入独显,就能很好的解决这个问题。
生产力工具:本地素材库管理

我这里已经将需要分析的素材挂载上去了,并且已经启用了独显分析。

我们这里来试一下,让它汇总一下挂载的文件中有关发票的相关信息,可以看到这个RAG搜索就已经调用了独显。

可以看到这里已经将识别到的信息汇总给到了,并且还能看到涉及到的文件。这对于NAS中存了大量文件,需要进行快捷提取的用户来说可谓是非常方便了。

同时针对视频素材也能生成对应的描述。这些计算都是基于本地算力进行的,也就只有外接独显这种方式才能做到。
当然如果你手头没有闲置的独显,我这个项目也能使用CPU进行计算,我这里简单做了个测试,看看使用CPU和GPU对于同一段视频的描述生成时间差异有多大。

我们这个本地素材管理工具在分析视频时,会先从视频中提取三个关键帧,再分别调用视觉模型生成画面描述,最后将三段内容汇总成完整的视频描述。
CPU模式下,三次生成耗时分别为11.10秒、13.80秒和10.80秒,平均需要11.90秒。相比之下,RTX 3080模式的平均耗时只有1.19秒;如果只比较模型预热后的稳定状态,独显速度最高可以达到CPU的约17倍。
总结:NAS开始从存储设备变成计算节点
那我觉得UGOS Pro支持Docker调用外接显卡之后,NAS的可玩性就大大增加了,也就意味着NAS不再仅仅只是一台能够存数据的设备,还能依靠其它的应用,做到读懂NAS中的数据。

当然,外接独显并不是所有用户都需要。对于照片备份、影音播放和文件共享,DXP6800 Ultra自身的Core 5 120U已经够用;但对于视频创作者、开发者和小型工作室,独显确实能进一步扩展NAS的使用边界。

平时它是一台7×24小时运行的NAS,需要字幕识别、素材分析和本地模型推理时,它又能变成一台本地计算节点。
同时,数据存储在东芝N300这类专门为NAS存储设计的硬盘中,也能有所保障。
那么好了,以上就是本篇文章的全部内容啦
希望对你有所帮助
上面的几个项目,待完善之后都会开源以及上架绿联的应用中心,到时候也希望各位用户可以反馈bug
让我们下篇文章
再见

喵喵0502
校验提示文案
衰呀衰呀
校验提示文案
清风徐籁
校验提示文案
几朵浪漫
校验提示文案
支昂
校验提示文案
值得卖吗
校验提示文案
红宝书
校验提示文案
我知道明天更美好
校验提示文案
值友3064769854
校验提示文案
得闲吃瓜可好
校验提示文案
小问号的很多小朋友
校验提示文案
沈步渔
校验提示文案
我就躺着
校验提示文案
北斗七星吨吨桶
校验提示文案
唐牛大师
校验提示文案
龙虾超人
校验提示文案
月落星陈
校验提示文案
陇上腊梅香
校验提示文案
竹攸宏然
校验提示文案
隐雾
校验提示文案
嘿嘿哦嘿
校验提示文案
田园小笨猪
校验提示文案
子诗不吃糖
校验提示文案
小李话不多
校验提示文案
喵喵0502
校验提示文案
史密斯的虎牙
校验提示文案
要天天开心噢
校验提示文案
小灵灵是个吃货
校验提示文案
韩想咋滴买
校验提示文案
值友8817902923
校验提示文案
繁星1
校验提示文案
不是點滴
校验提示文案
我是码克
校验提示文案
此花未落
校验提示文案
溪边一只大龙虾
校验提示文案
珊珊在家
校验提示文案
值友9740436506
校验提示文案
钱程似锦
校验提示文案
昭阳吖
校验提示文案
穆凌泽-
校验提示文案