搭建一台自己的AI服务器

未来是AI的时代，不过此刻我们就已经感受到了AI的强大，目前在：画图、语音识别、人声模仿、图像修复、知识整理这些领域，AI已经展现出惊人实力（未来在自动驾驶、思维等还有无限可能）。一些开源AI服务还可以进行本地部署，这是我为什么想搭建一台自己的AI服务器的原因。

AI对于CPU没有那么挑剔，性能越强线程越多自然越好。出于稳定性和兼容性考虑，普通用户可以优先选Intel。显卡方面，NVIDIA的CUDA生态在AI领域一家独大，所以玩AI目前N卡对新手更友好。

如果你仅仅是想本地化部署一些AI应用，其实对于硬件的要求并不算太高，我举几个例子：

如果你的目的仅仅是让AI跑起来，其实对于硬件的要求比你想象的更低。比如StableDiffusion这样的热门AI项目，网上已经有足够多的可用模型，你要做的只是拿这些现成的模型在自己的电脑上跑起来就行。一台4代i5+矿卡P106的搭配，应该400多元就能搞定，这个配置跑StableDiffusion-WebUI玩AI出图完全没问题，而且几十秒一张图的出图效率速度还不算低（当然受制于6G显存跑不了分辨率较大的图）。

Upscayl图像放大对于硬件的要求更低，如果你的CPU够强（推荐12400级别），光用CPU跑也没问题。当然借助显卡可以在计算速度上更上一层楼。

不过so-vits-svc人声模仿对于显卡的要求就高了不少，生成新的人声方案其实就是一个训练过程，对于显存的要求依然比较高。要想获得理想的效果RTX2060 12G估计都不太够用。

Topaz video enhance视频修复也同样对于硬件要求较高（纯粹是计算量的需求），其主要原因是因为视频修复计算量非常大，所以不仅对于GPU要求高，对于CPU也有较高的要求，所以需要硬件综合性能都比较强大的配置才能达到实用级别。当然你也可以用更长的运行时间去弥补硬件上的不足。

总的来说如果你是想搭建一台跑AI的设备，可以朝这个方向去装机：CPU性能不弱、内存要大、显卡越强越好（优先N卡），此外玩AI对于硬盘空间大小和读写速度都有较高要求(AI模型一般都很大，既占存储空间又要求读取速度快），最好准备个1T以上固态硬盘。系统上很多AI应用都可以在Linux上跑，热门的AI应用可以在windows上跑。

当然如果你想省钱可以考虑E3、E5这样的洋垃圾搭配P104矿卡，硬件成本会低一点。

顺便说一下我自己的案例，由于预算有限我的两台设备：一台是R5-5600G+P106，一台是R5-5600+RTX2060S。哪怕咬咬牙凑预算也只够钱换个RTX3060（而且RTX3060性价比还很低），所以就这么将就着用了。

AI目前的核心竞争力和核心硬件依然是显卡。高端玩家青睐的是A100、H100、RTX4090这样的顶级卡。中低端玩家有魔改卡RTX2080ti 22G、旧服务器计算卡P40 24G、P40 24G矿卡P104等这些玩法。但对于普通玩家而言选一张普通8G显存显卡即可，偏爱大显存可以选中端大显存卡（性价比相对低）。

但是如果你的目的不是玩AI，而是自己来“炼丹”玩深度学习训练模型，那么硬件需求翻倍也不一定够得上入门门槛。对于ChatGPT大模型而言顶级显卡A100、H100这些只是一个计量单位而已（所以ChatGPT还是用在线的强）。

之所以会对一些本地部署的AI服务感兴趣，是因为一些AI服务已经达到实用级别，比如UVR5的人声分离相当出色，一些AI应用的图片修复功能也非常强大。也正是因为AI，估计普通的游戏玩家很难在获得一张性价比很高的中端显卡。因为就新卡而言，游戏和AI综合性价比最高一张卡竟然是RTX4090，这就是无奈的现实。

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～