低成本搭建纯CPU的Deepseek平台-硬件篇

2025-04-09 13:10:33 11点赞 59收藏 27评论

搭建一个可用的纯CPU平台的人工智能AI平台需要多少钱,这里强调是可用的,一秒1个字至少吧。

先罗列一下配置:

戴尔14代 intel 双CPU 服务器准系统 大概1000-1500元:

戴尔 R440 服务器戴尔 R440 服务器戴尔 R640 服务器戴尔 R640 服务器

体积比较小的戴尔14代的poweredge 服务器 R440,扩展性稍强,价格更低的R640准系统。 当然R740 也可以,但价格就要贵一些,不过这个未来可以加GPU。

戴尔 R740 服务器戴尔 R740 服务器

内存的话,跑AI容量需要大,而且要多通道和速度,根据预算情况,至少每个CPU两根32G的起步,预算有限可以考虑4根16G的。 内存速度越高越贵,例如2133 DDR4 reg ecc 32G 只要120,但一般二代志强都是2400,2666或2933MHz。 推荐根据cpu型号买最大速度的,不用买高,3200MHz的贵,但会根据cpu降速运行,浪费钱。

戴尔R640 每cpu 12槽内存戴尔R640 每cpu 12槽内存韩国 sk 现代 regecc ddr4 内存韩国 sk 现代 regecc ddr4 内存

选购的时候要注意,服务器的内存除了速度还有reg ecc和纯ecc的区别,xeon 处理器也不支持普通PC的UD内存。 还有芯片的模式有2Rx4 4Rx4 不能混用。推荐2Rx4 比较好买。推荐从同一家买内存,避免批次问题导致系统不稳定。 至少是同样型号内存。 三星真假内存尽量避开。大部分服务器都是 sk或镁光的。

硬盘的话,针对戴尔的服务器,推荐搭配h330 /H730/H730P mini 阵列卡加几个大容量sata SSD固态硬盘。或是PCIE槽位加一个e1.s/ m.2 nvme固态硬盘。 不太好升级nvme,成本高区别小。 H730P 2G缓存阵列卡才100多,但R440 只能用pcie大卡,H730P 就比较贵了,阵列卡的不如直接买pcie固态硬盘 做系统盘。有个sata ssd做系统盘就行。

dell h730 raid controllerdell h730 raid controllerDell boss 卡,支持ngff sata m.2硬盘Dell boss 卡,支持ngff sata m.2硬盘

cpu型号选择之前专门写文章介绍过,推荐买预算以内,165w功耗以内的多核高频率的。 例如每个cpu 500 以内买QS正显的62xx 或8263C 这种性价比最高。

intel xeon 2nd platinumintel xeon 2nd platinum

机箱电源功率也要注意,虽然没有大功耗的GPU,但两颗165w CPU,加上多条reg ecc内存,固态硬盘等,推荐750w的容量。虽然实测峰值450w, 跑模拟时300w不到,冗余量还是保证系统稳定的前提。

热插拔750w 电源,可双热备份热插拔750w 电源,可双热备份

这样就有一台服务器,两颗志强铂金cpu,104个逻辑处理器。每个核基础频率 2.5G,可以睿频boost 3.8GHz.

cpu of 2x xeon 8263Ccpu of 2x xeon 8263C

软件部分,推荐ubuntu linux 22/24 版本作平台,比windows server系统更节约系统自身消耗的资源。

展开 收起
27评论

  • 精彩
  • 最新
  • 不要用CPU 还是使用GPU稳妥吧 建议32B起步 30~70是现在用的最多的产品了。

    校验提示文案

    提交
  • 广告?标题说模型,全篇没一个字说模型的。搭建好跑多少token一字不提。

    校验提示文案

    提交
    标题写着硬件篇

    校验提示文案

    提交
    收起所有回复
  • 跑模型还是得显卡吧,而且显存小了带不动满血模型的

    校验提示文案

    提交
    我跑了70b

    校验提示文案

    提交
    试试671B的?70B llama激活的参量比671B r1还高吧,r1只同时激活37B。

    校验提示文案

    提交
    还有4条回复
    收起所有回复
  • 只能跑小模型,就是便宜,个人折腾感觉不如上个二手卡

    校验提示文案

    提交
    二手能用的rtx也买不到或是买不起

    校验提示文案

    提交
    收起所有回复
  • 等着后续,硬件已经准备好

    校验提示文案

    提交
    [棒棒哒]

    校验提示文案

    提交
    收起所有回复
  • 那么跑起来速度多快呢?

    校验提示文案

    提交
    好像主要是取决于内存的带宽和速度,EPYC貌似是最优解,哪怕是一个核心少的都行,可以上八通道……

    校验提示文案

    提交
    和gpu跑没法比的,唯一优势是低成本,内存便宜,属于图一乐

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 这个和mac mini32g的哪个快?

    校验提示文案

    提交
    比不上mac mini 16g丐版

    校验提示文案

    提交
    收起所有回复
  • 没用,没显卡,这些老cpu也强不多少!没意义!

    校验提示文案

    提交
  • 别坑人,CPU慢死你

    校验提示文案

    提交
    先解决有无,你买得到gpu么

    校验提示文案

    提交
    我们用单4090d,感觉凑合还行

    校验提示文案

    提交
    还有1条回复
    收起所有回复
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
相关好价
最新文章 热门文章
59
扫一下,分享更方便,购买更轻松