闲置显卡别浪费!NAS接上秒变 AI 算力站|搭建7*24家用算力中心
NAS应该算是家里或者工作室中,开机时间最长的一类设备。
照片、影片、工作资料、剪辑素材,基本都会集中存放在NAS中。我想很多人的NAS买回来以后,也是常年保持7×24小时运行。(除了少部分电费敏感用户,可能会每天定时开关机)
但如果仔细想想,如果只是备份照片、下载影片、共享文件,再运行几个Docker应用。对于一台硬件配置不低的NAS来说,多少显得有些大材小用。

可现在是AI时代,NAS如果只是传统的数据存储设备,多少有点跟不上时代的潮流。我开始尝试让NAS承载更多的工作。
比如部署本地大模型,对NAS中存储的资料进行分析建立知识库;比如分析NAS中存放的视频,自动生成字幕等等
但真正开始尝试之后,很快又遇到一个新的问题:NAS本身的性能可能并不能很好的满足AI的需求。
那有什么更好的方法可以解决性能问题呢?

外接显卡
这是大部分NAS厂商给出的答案,通过雷电/OCU/PCIe槽位等等方式,外接一张独显。如果遇到需要非常强性能的场景时,可以调用独显的算力进行计算。
但是需要注意,也不是所有的NAS设备都支持外接显卡,只有在一些中高端的NAS上才有外接独显的接口,并且也需要NAS系统能够做到支持。
那咱们这次使用的是来自绿联的六盘位新品NAS DXP6800 Ultra。
家用六盘新旗舰选择—绿联DXP6800 Ultra
从纸面参数来看,DXP6800 Ultra并不只是一台面向照片备份和家庭影音的入门NAS。

它搭载Intel Core 5 120U处理器,采用10核心12线程设计,基础频率1.4GHz,最高睿频可以来到5.0GHz,同时集成了80EU规格的Intel Iris Xe核显。

120U的性能毋庸多说了,我们也简单跑了下geekbench5,单核得分1124多核得分4863,如果你有虚拟机、多Docker等需求,加装内存后,也能轻松应对这些需求。

在家用常见的转码场景中,我们也做了对应的测试,同时转码多条4K 30 AV1轨道,都能做到即点即播,可以说在家用场景下,这颗U已经能完全满足用户的需求了。

我们手上这台标配的是8G DDR5内存,同时搭配两个内存插槽,最高可以支持扩展到96G。当然我想在目前内存价格暴涨的情况下,应该没人会给NAS 搭配超大内存。那同时呢,这台设备的系统盘采用的是一块128G的SSD,这...能做什么你应该懂了吧(🐶)

Core 5 120U自然提供了更多的PCIe通道,扩展性方面相比于常规的家用NAS来肯定是强了不少。在网口方面DXP6800 Ultra提供了两个10GbE万兆网口。
对于个人用户来说,一个万兆网口基本已经够用;但放在工作室环境中,双万兆可以同时服务多台高速客户端,也能够为多人并发访问留出更多余量。

其它接口方面,6800 Ultra的正面提供了两个雷电4接口、一个USB 3.2 Gen2接口和SD 读卡器;

背面一个USB 3.2 Gen 2、两个USB 2.0以及HDMI接口,HDMI最高支持8K 60Hz输出,当然还有刚刚提到的两个万兆网络接口。

同时打开侧边的盖板,机身内部还提供了一个PCIe x4接口,你可以再为插上一张双口PCIe万兆网卡,嘿嘿!原本的双万兆网口瞬间就变成了四个万兆口!并且由于UGOS Pro底层使用的是debian系统,内核比较新,我这边试过好多张PCIe网卡,都能直接免驱;你也能插上PCIe存储设备,这样你的DXP6800 Ultra就有了更大的固态存储空间,可以说扩展性非常强。
盘位方面,6800 Ultra采用的是6sata+2 M.2的组合,理论上,如果你拥有钞能力,堆满能提供208TB的存储空间,这对于大部分用户或者说对于大部分有专业需求的用户,这个存储空间都是完全够用的。
那既然说到了硬盘,现在硬盘价格这么贵,咱们中小工作室NAS应该怎么选硬盘呢?
团队工作室硬盘怎么选?
对于视频工作室来说,NAS里存放的不只是成片,还有相机原片、剪辑工程、代理文件和各种历史版本。单个项目占用几百GB很正常,多机位、高码率素材甚至很容易超过1TB。
因此,工作室选硬盘不能只看容量和价格,还要考虑能否适应7×24小时运行、长时间持续读写,以及多人同时访问。
比如一台电脑正在从NAS读取素材剪辑,另一台电脑同时上传文件,后台还有Docker应用读取数据,这种负载显然和普通电脑中的间歇性读写不同。

这次DXP6800 Ultra中使用的,就是东芝N300 NAS专用硬盘。

东芝N300采用CMR传统磁记录技术和7200RPM转速,面向7×24小时运行环境设计,支持最高12盘位NAS,额定工作负载最高为180TB/年。

针对多盘位环境,N300还内置RV旋转振动传感器,用来降低多块机械硬盘同时运行时,旋转振动对硬盘工作状态产生的影响。特别是咱们这6800 Ultra 六盘位NAS,磁盘运行时带来的振动是不容忽视的一点,这时N300的内置RV旋转振动传感器就能保持硬盘相对稳定的运行。

咱们这也进行了传输的相关测试,使用JBOD模式,连上万兆口,传输一份160G的文件,能够维持在200MB/s以上的速度,这个表现在机械盘中算的上是非常不错了。

但,在实际的生产环境中,硬盘的温度表现也会影响到硬盘的寿命。所以在长时间高负载的情况下,能否保持相对低的温度就显得非常重要。
咱们这进行一小时的满载测试,看看在极限情况下,CPU、硬盘的温度表现如何。
极限1小时压测表现

测试开始时,室温25℃:
CPU封装温度为53℃;
RTX 3080核心温度为48℃;
第一块硬盘温度为42℃;
完整温度数据如下:
CPU最高温度为72℃,稳定阶段平均约69.5℃
RTX 3080最高温度同样为72℃,稳定阶段平均约71.6℃。
硬盘方面,初始温度42℃,稳定运行时基本维持在44℃左右,最高记录为45℃。这个温度在极限压测中表现还算是很不错的了。如果是后续将六盘全部塞满,温度可能会稍微升高一些,但也在安全温度以内,非常适合中小型工作室里面7*24小时运行;

同时CPU和硬盘的温度表现,也从侧面反映出这台DXP6800 Ultra的散热系统非常高效,能有效将内部的热量带出。

功耗方面,我们这简单测试了下,在插入两块东芝N300 8T硬盘时,待机功耗基本上在37瓦左右;

在满载情况下,功耗在45瓦左右,如果全部插满硬盘,功耗可能会在对应增加15瓦左右,对于这样一台性能强悍的NAS来说,这个功耗还是可以接受的。
相信看到这里,大家伙对于这台NAS的性能有了一定的了解,可能有的小伙伴可能会问了,性能都这么强了,何必再上独显呢?

那咱们前面也说过了,上独显是为了满足更强的性能需求,如果你的需求没有那么高,其实也是完全没有必要的。
独显有什么用?
咱们先来看到绿联UGOS Pro系统自带的应用中外接独显都能有什么用。
相册调用独显:海量照片用户福音
UGOS Pro系统中自带的相册应用中有不少的识别模型,下载模型之后可以利用这些模型对相册内的照片进行识别分析,方便后续搜索等等操作。

咱们这相册中的照片不多,只有一万多张,先来看看不使用独显,核显的计算速度能有多少。

可以看到在启用独显计算之后,这个识别的速度要比单独使用核显快上不少。
但有的小伙伴可能会说了:我插上一点独显就为了相册识别?那是不是有点太大材小用了呢?那我给这台NAS接上独显还能怎么玩呢?

在七月的更新中,UGOS Pro中增加了独显直通Docker的功能,咱们之后部署的Docker容器如果对独显有支持的话,就能直接使用这个功能在Docker中使用独显的算力了。
Ollama调用独显:228倍的速度提升
现在各种模型的发展确实很令人惊讶,但现在很多使用都还得通过接入在线API的形式,说实话能力确实强了,但隐私泄露的风险也还是有的。那在本地部署属于自己的AI助手用途还是非常广泛的。
可如果单纯使用CPU来跑本地模型,我想用过的朋友肯定都不想再经历一遍,实在是太慢了!那既然咱们这已经接上了独显,就来用独显来试试吧!

我们这在DXP6800 Ultra上部署了Qwen2.5系列的几个模型,通过对比不难发现,在7B模型下,使用独显的速度是CPU的两百多倍!那同时由于模型跑在CPU上是需要占用内存的,而咱们这台6800 Ultra只有8G的内存,在某些情况下还存在根本运行不起来的情况;但使用GPU的话,模型是加载进显存,像咱们这12G的3080运行7B的模型基本上不成问题,如果更大一点的14B,就需要分层到CPU,速度相比于单独使用GPU要慢一些。
而且在模型加载速度上,使用独显的速度也要比CPU快上不少。


咱们这测试一个经典AI问题,可以看到在独显模式下,模型回答的非常快;而CPU模式下...这个回答的速度几乎就是完全不可用的状态。

咱们的NAS是7*24小时运行,这样通过Ollama将模型部署在我们NAS本地,有推理需求时自动调用独显进行计算,空闲时独显也是处于待机状态,功耗也比较低;再通过UGreen Link的远程访问功能,咱们就获得了一个7*24小时部署在本地的AI助手了。
那有的小伙伴可能会说:我平时对于AI助手的需求几乎为零,本地部署AI模型对我来说完全没用,能不能有别的什么玩法呢?
嘿嘿!我这开发了一个生成AI字幕的docker应用,原先是使用CPU来计算,但是发现速度实在是太慢了,那现在通过雷电口接上独显,也就能利用独显来生成字幕,速度要快上不少。(这个项目是我自己开发的,目前还有些许bug,先拿来做测试了,后面完善之后再发布和上架绿联应用商店)
不只是聊天:独显还能拿来做AI字幕生成
原先这个应用一直是使用CPU来计算的,但实际体验下来,最大的问题只有一个:速度太慢。

既然现在DXP6800 Ultra已经通过雷电口接上了独显,那这个应用自然也就能调用独显来进行字幕生成。
这次我们直接拿一条接近三小时的英文影片来测试,看看在CPU和独显两种模式下,生成速度到底能差多少。
这次测试主要用了faster-whisper引擎,并分别测试了 tiny 和 small 两个模型。

先来看到tiny模型:
GPU模式总耗时:1分39秒
CPU模式总耗时:2分15秒
这个差距不算特别夸张,大概是 1.4倍。主要还是因为tiny模型本身计算量比较小,瓶颈更多是在音频提取和数据搬运上,GPU的优势没有完全发挥出来。但tiny模型生成的字幕准确率上要更差一些。
咱们再将模型切换到small看看,看看差距能有多少。
GPU模式总耗时:2分22秒
CPU模式总耗时:12分26秒
也就是说,small模型下,接入独显的情况下,速度相比于CPU模式提升了5.3倍!
这样的话,如果以后再遇到没有字幕的影片,通过这个Docker应用调用独显能力,也就能比较快地把字幕生成出来。
那有的小伙伴可能会说了:DXP6800 Ultra这么多的盘位,像前面说的,非常适合在中小型工作室里面使用,同时也是作为视频工作室,平时有非常多的素材资料存在里面,想要找起来非常困难。那既然接上独显算力很猛,能不能对本地的素材进行计算呢?生成可搜索的描述呢?
咱们这也是直接vibe coding了一个本地素材管理工具,将需要分析的素材挂载上,就能自动开始分析并且生成描述以及可以进行RAG搜索。但如果是使用NAS本身的性能进行分析,素材量太多的情况下,需要耗费大量的时间,那接入独显,就能很好的解决这个问题。
生产力工具:本地素材库管理

我这里已经将需要分析的素材挂载上去了,并且已经启用了独显分析。

我们这里来试一下,让它汇总一下挂载的文件中有关发票的相关信息,可以看到这个RAG搜索就已经调用了独显。

可以看到这里已经将识别到的信息汇总给到了,并且还能看到涉及到的文件。这对于NAS中存了大量文件,需要进行快捷提取的用户来说可谓是非常方便了。

同时针对视频素材也能生成对应的描述。这些计算都是基于本地算力进行的,也就只有外接独显这种方式才能做到。
当然如果你手头没有闲置的独显,我这个项目也能使用CPU进行计算,我这里简单做了个测试,看看使用CPU和GPU对于同一段视频的描述生成时间差异有多大。

我们这个本地素材管理工具在分析视频时,会先从视频中提取三个关键帧,再分别调用视觉模型生成画面描述,最后将三段内容汇总成完整的视频描述。
CPU模式下,三次生成耗时分别为11.10秒、13.80秒和10.80秒,平均需要11.90秒。相比之下,RTX 3080模式的平均耗时只有1.19秒;如果只比较模型预热后的稳定状态,独显速度最高可以达到CPU的约17倍。
总结:NAS开始从存储设备变成计算节点
那我觉得UGOS Pro支持Docker调用外接显卡之后,NAS的可玩性就大大增加了,也就意味着NAS不再仅仅只是一台能够存数据的设备,还能依靠其它的应用,做到读懂NAS中的数据。

当然,外接独显并不是所有用户都需要。对于照片备份、影音播放和文件共享,DXP6800 Ultra自身的Core 5 120U已经够用;但对于视频创作者、开发者和小型工作室,独显确实能进一步扩展NAS的使用边界。

平时它是一台7×24小时运行的NAS,需要字幕识别、素材分析和本地模型推理时,它又能变成一台本地计算节点。
同时,数据存储在东芝N300这类专门为NAS存储设计的硬盘中,也能有所保障。
那么好了,以上就是本篇文章的全部内容啦
希望对你有所帮助
上面的几个项目,待完善之后都会开源以及上架绿联的应用中心,到时候也希望各位用户可以反馈bug
让我们下篇文章
再见
