家庭服务器 篇三十二:搭建一台自己的AI服务器
未来是AI的时代,不过此刻我们就已经感受到了AI的强大,目前在:画图、语音识别、人声模仿、图像修复、知识整理这些领域,AI已经展现出惊人实力(未来在自动驾驶、思维等还有无限可能)。一些开源AI服务还可以进行本地部署,这是我为什么想搭建一台自己的AI服务器的原因。
AI对于CPU没有那么挑剔,性能越强线程越多自然越好。出于稳定性和兼容性考虑,普通用户可以优先选Intel。显卡方面,NVIDIA的CUDA生态在AI领域一家独大,所以玩AI目前N卡对新手更友好。
如果你仅仅是想本地化部署一些AI应用,其实对于硬件的要求并不算太高,我举几个例子:
如果你的目的仅仅是让AI跑起来,其实对于硬件的要求比你想象的更低。比如StableDiffusion这样的热门AI项目,网上已经有足够多的可用模型,你要做的只是拿这些现成的模型在自己的电脑上跑起来就行。一台4代i5+矿卡P106的搭配,应该400多元就能搞定,这个配置跑StableDiffusion-WebUI玩AI出图完全没问题,而且几十秒一张图的出图效率速度还不算低(当然受制于6G显存跑不了分辨率较大的图)。
Upscayl图像放大对于硬件的要求更低,如果你的CPU够强(推荐12400级别),光用CPU跑也没问题。当然借助显卡可以在计算速度上更上一层楼。
不过so-vits-svc人声模仿对于显卡的要求就高了不少,生成新的人声方案其实就是一个训练过程,对于显存的要求依然比较高。要想获得理想的效果RTX2060 12G估计都不太够用。
Topaz video enhance视频修复也同样对于硬件要求较高(纯粹是计算量的需求),其主要原因是因为视频修复计算量非常大,所以不仅对于GPU要求高,对于CPU也有较高的要求,所以需要硬件综合性能都比较强大的配置才能达到实用级别。当然你也可以用更长的运行时间去弥补硬件上的不足。
总的来说如果你是想搭建一台跑AI的设备,可以朝这个方向去装机:CPU性能不弱、内存要大、显卡越强越好(优先N卡),此外玩AI对于硬盘空间大小和读写速度都有较高要求(AI模型一般都很大,既占存储空间又要求读取速度快),最好准备个1T以上固态硬盘。系统上很多AI应用都可以在Linux上跑,热门的AI应用可以在windows上跑。
当然如果你想省钱可以考虑E3、E5这样的洋垃圾搭配P104矿卡,硬件成本会低一点。
顺便说一下我自己的案例,由于预算有限我的两台设备:一台是R5-5600G+P106,一台是R5-5600+RTX2060S。哪怕咬咬牙凑预算也只够钱换个RTX3060(而且RTX3060性价比还很低),所以就这么将就着用了。
AI目前的核心竞争力和核心硬件依然是显卡。高端玩家青睐的是A100、H100、RTX4090这样的顶级卡。中低端玩家有魔改卡RTX2080ti 22G、旧服务器计算卡P40 24G、P40 24G矿卡P104等这些玩法。但对于普通玩家而言选一张普通8G显存显卡即可,偏爱大显存可以选中端大显存卡(性价比相对低)。
但是如果你的目的不是玩AI,而是自己来“炼丹”玩深度学习训练模型,那么硬件需求翻倍也不一定够得上入门门槛。对于ChatGPT大模型而言顶级显卡A100、H100这些只是一个计量单位而已(所以ChatGPT还是用在线的强)。
之所以会对一些本地部署的AI服务感兴趣,是因为一些AI服务已经达到实用级别,比如UVR5的人声分离相当出色,一些AI应用的图片修复功能也非常强大。也正是因为AI,估计普通的游戏玩家很难在获得一张性价比很高的中端显卡。因为就新卡而言,游戏和AI综合性价比最高一张卡竟然是RTX4090,这就是无奈的现实。
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
路小雨小雨
校验提示文案
诶丫丫丶
校验提示文案
纠察队长
校验提示文案
哦呦造孽
校验提示文案
值友8204585046
校验提示文案
体积云
校验提示文案
小悦的吗
校验提示文案
kxbs
校验提示文案
超逸绝尘
校验提示文案
清墨少年
校验提示文案
藏在饭菜里的爱
校验提示文案
feebool
校验提示文案
值友8885747093
校验提示文案
宅猫嘟嘟
校验提示文案
眠空安然
校验提示文案
华之瓯越
校验提示文案
爱喝可乐的蜗牛
校验提示文案
娃哈哈哈哈哈哈233
校验提示文案
wzpok
校验提示文案
wzpok
校验提示文案
我要中奖请满足我
校验提示文案
wzpok
校验提示文案
wzpok
校验提示文案
娃哈哈哈哈哈哈233
校验提示文案
爱喝可乐的蜗牛
校验提示文案
华之瓯越
校验提示文案
眠空安然
校验提示文案
宅猫嘟嘟
校验提示文案
值友8885747093
校验提示文案
诶丫丫丶
校验提示文案
feebool
校验提示文案
藏在饭菜里的爱
校验提示文案
清墨少年
校验提示文案
超逸绝尘
校验提示文案
kxbs
校验提示文案
小悦的吗
校验提示文案
体积云
校验提示文案
值友8204585046
校验提示文案
路小雨小雨
校验提示文案
哦呦造孽
校验提示文案