6000元大战满血deepseek-对比win、linux默认671b-Q4-华南H12D
本期主要分享的是单路epyc主板纯cpu运行deepseek-r1的实测效果

做以下背景说明,本次测试以windows11和ubuntu24桌面版为参照,全部使用ollama,未做任何性能上的参数改动或优化,所有模型都为q4量化,也就是ollama官网直接下载。
制作不易求个关注,为了省流直接公布配置图和具体参数,
相应的实测视频已在上面发了
硬件配置
主板 华南金牌h12d
cpu amd7532
内存 ddr4 64G 4r*4 2666 8条合计512G
硬盘 任意1T
电源任意 400W以上即可
散热器SP3 随意
机箱随意

部分用券还能优惠一丢丢
deepseek-r1:681b-q4 win表示win11 L表示ubuntu24桌面版
数值表示token/s,都为简单问题
默认 win 21.7 L 23
14b win 11.65 L12.22
32b win 5.81 L5.91
70b win 2.96 L2.95
671 win 4 L4.4

总结目前个人体验本地部署还是推荐以14b和32b为主,一般作为问答机在工作中提供一点辅助还是可以的,满血版高昂成本除非保密要求不然还是用api更方便。纯cpu的推理速度和稳定性仍然不够,对于个人而言更多的是学习和体验一下。
最近mi50 32g也比较火,理论上可以用来提速推理,但目前个人经济条件受限,后续有条件的话也会尝试买一两张给大家做一些相关内容的测评。
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
