运行本地超大模型DeepSeek，7666元的攒机配置表，是心动的感觉

春节前后，Deepseek将AI大模型训练成本降至令人咋舌的水平，这一成果瞬间成为热门话题，吸引了全球关注。

现在官方已经经常出现繁忙的回复。所有使用的人都感到了不便利。

于是就有了本地部署的DeepSeek，但这样对于本地机器要求就很高了。如果要使用满血联网版本，就要A100或者H100！

但是如今清华大学与联合趋境的开源项目团队KTransformers又传出好消息，他们成功把“本地部署超大模型的成本”降低到令人难以想象的程度。

他们通过巧妙利用Deepseek的MOE专家模型架构，将专家数据放置于精贵且数量有限的显存，其余数据存于价廉量大的内存，极大提升了本地部署Deepseek671B大模型的效率，大幅降低了硬件成本。

甚至有人给出价值7666元的《垃圾佬DEEPSEEK 671B》攒机配置表，畅想在七八千元的机器上运行404GB体量的671B Q4大模型，这一壮举无疑是中国人降本增效能力的又一有力例证。

垃圾佬DEEPSEEK 671B

配置 型号 价格

CPU E5 2680V4 X2 122

主板 双路X99主板最大兼容512G 868

内存 RECC 64GX8 共512G 2100

显卡 RTX3080 20G 3800

散热 X99四热管散热器X2 59

固态硬盘 梵想1TB PCIe 4.0 x4 S690 379

机箱 EATX机箱 59

电源 Thermalright(利民)额定750W TR-TB750S铜牌认证 279

合计 7666

这个CPU是原来做服务器的CPU。

E5-2680v4发布于2016年第二季度，由于是服务器处理器，因此单核性能比较低，仅仅相当于赛扬G4900，因此该处理器不适合游戏。不过服务器处理器注重的是多任务处理，因此多核性能还是很高的，相当于i7-10700的多核性能。

采用更新的22nm工艺制作，架构也从BroadwellEP升级为了Haswell-EP，三级缓存也增加了5MB。E52680v4处理器拥有14个计算核心28条执行线程（超线程）在BroadwellEP及14nm工艺的加持下基础频率2.4Ghz加速频率为3.3Ghz。

内存够狠。RECC 64G弄了8条，这内存的稳定性还行。

目前是一谈到服务器内存，大家都一致强调要买ECC内存，认为ECC内存速度快，其实是一种错误地认识，ECC内存成功之处并不是因为它速度快(速度方面根本不关它事只与内存类型有关),而是因为它有特殊的纠错能力，使服务器保持稳定。

ECC本身并不是一种内存型号，也不是一种内存专用技术，它是一种广泛应用于各种领域的计算机指令中，是一种指令纠错技术。它的英文全称是"ErorChecking and Correcting”,对应的中文名称就叫做“错误检查和纠正”,从这个名称我们就可以看出它的主要功能就是“发现并纠正错误”,它比奇偶校正技术更先进的方面主要在于它不仅能发现错误，而且能纠正这些错误，这些错误纠正之后计算机才能正确执行下面的任务，确保服务器的正常运行。

最后是显卡3080的20g版本。

这些RTX 3080 20GB显卡多数采用涡轮风扇设计，也有一些是拿零售的型号魔改的，有些商家宣称不锁驱动，只要降点显存频率就行，有些连降频都不需要。

矿潮早就结束了，但是矿场里的大量的矿卡总要找人接盘，游戏卡清洗一下（甚至不用清洗）二手批量出给贩子，接下来是当二手卖还是翻新这些矿主就不关心了。至于专门的矿卡就得想想办法了，不少都是涡轮风扇设计的，加上没有输出接口，就得“做一下小手术了”，增加输出接口后就能焕发新生了。

所以用这个显卡要的就是大显存的威力。

组装这个运行满血联网版Deepseek的硬件，只需要7666元。是心动的感觉！

笔者原本以为这个本地部署联网满血版，就是玩家在自己家运行不受限制的人工智能问答。但也有搞科研的朋友说，为了前期研发很多都不能上传资料，防止泄密。看来这个硬件升级的需求还是很大很大的！

而从古代农耕社会开始，中国人就懂得珍惜每一分资源，精打细算以应对各种不确定性。在资源相对匮乏的环境下，节约成本、提高效率成为生存与发展的重要手段。这种理念深深烙印在民族的基因中，使得中国人无论处于何种领域，都会本能地寻求最经济、最有效的解决方案。

7666元运行超大规模Deepseek 404GB体量的671B Q4大模型！你心动吗？

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～