6000元大战满血deepseek-对比win、linux默认671b-Q4-华南H12D

2025-05-10 22:13:05 4点赞 6收藏 0评论

本期主要分享的是单路epyc主板纯cpu运行deepseek-r1的实测效果

6000元大战满血deepseek-对比win、linux默认671b-Q4-华南H12D

做以下背景说明,本次测试以windows11和ubuntu24桌面版为参照,全部使用ollama,未做任何性能上的参数改动或优化,所有模型都为q4量化,也就是ollama官网直接下载。

制作不易求个关注,为了省流直接公布配置图和具体参数,

相应的实测视频已在上面发了

硬件配置

主板 华南金牌h12d

cpu amd7532

内存 ddr4 64G 4r*4 2666 8条合计512G

硬盘 任意1T

电源任意 400W以上即可

散热器SP3 随意

机箱随意

6000元大战满血deepseek-对比win、linux默认671b-Q4-华南H12D

部分用券还能优惠一丢丢

deepseek-r1:681b-q4 win表示win11 L表示ubuntu24桌面版

数值表示token/s,都为简单问题

默认 win 21.7 L 23

14b win 11.65 L12.22

32b win 5.81 L5.91

70b win 2.96 L2.95

671 win 4 L4.4

6000元大战满血deepseek-对比win、linux默认671b-Q4-华南H12D

总结目前个人体验本地部署还是推荐以14b和32b为主,一般作为问答机在工作中提供一点辅助还是可以的,满血版高昂成本除非保密要求不然还是用api更方便。纯cpu的推理速度和稳定性仍然不够,对于个人而言更多的是学习和体验一下。

最近mi50 32g也比较火,理论上可以用来提速推理,但目前个人经济条件受限,后续有条件的话也会尝试买一两张给大家做一些相关内容的测评。

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
6
扫一下,分享更方便,购买更轻松