单机柜100kW:AI服务器散热的生死线
源自111位全网作者
01:29
精选参考来源
1
风冷扛不住了!AI机柜功耗飙到140kW,液冷从“可选”变唯一解
2
冷板式液冷 VS 浸没式液冷(AI算力机房)
一句话总纲:冷板式是当下商业化主力,兼容性强、运维简单;浸没式散热上限更高、PUE更低,但前期投入贵、运维门槛高,只适合超高密度大模型训练场景,短期不会全面替代冷板。
一、原理简单区分
- 冷板式:在GPU/CPU芯片表面贴带水道的金属冷板,冷却液只在冷板内部循环,液体不接触电路板。其余网卡、硬盘、电源还需要少量风扇辅助散热,属于间接冷却。
- 浸没式:把整台服务器浸泡在高绝缘冷却液(氟化液/硅油)里面,芯片、主板直接泡在液体中,热量直接传给冷却液,完全取消服务器风扇,直接接触式散热。
二、优缺点对比
✅冷板式液冷(当前市场90%份额,主流方案)
优点
1. 服务器改动小,存量机房可以分期改造,不用推倒重建;
2. 运维方式和风冷接近,服务器可以直接插拔更换,工程师上手快;
3. 产业链成熟,浪潮、华为、英伟达H100/B200服务器标配冷板方案;
4. 单机柜支持25~100kW,足够绝大多数AI训练、推理集群;PUE一般做到1.1~1.2。
缺点
1. 只给核心芯片散热,硬盘、电源仍需要风冷辅助,散热天花板有限;
2. 单机柜超过100kW之后,管路、接头、泄漏风险会明显上升;
3. 很难做到PUE<1.1。
✅浸没式液冷(细分高密场景,试点快速增长)
优点
1. 散热效率极强,PUE最低可做到1.05;单机柜轻松做到100kW+,未来可支持兆瓦级超高密度机柜;
2. 无风扇,机房噪音极低,芯片温度更稳定,长时间满载下GPU不容易降频;
3. 余热回收潜力大,热量可以回收供暖,适合绿电基地长期运营。
缺点
1. 初始投资高:定制服务器、机柜箱体、大量绝缘冷却液,CAPEX比冷板高30%-40%;氟化液很贵,还存在挥发损耗,持续耗材成本高;
2. 运维复杂:维修服务器需要从液槽里捞机器、排液、干燥;对元器件材料兼容性有要求,普通服务器不能直接泡;
3. 机房承重改造要求高,存量机房改造难度极大,基本只能新建机房;
4. 冷却液有环保、安全风险,泄漏处理麻烦。
成本算账:浸没式前期花钱多;运营周期超过6年,电费节省才能覆盖高出的建设成本,回本周期很长。
三、国内落地现状
1. 冷板式:已经大规模商用。阿里云、移动智算、联通智算、浪潮AI集群,绝大多数新建智算中心首选冷板。H100、昇腾950主流AI服务器标配冷板,适合25~80kW机柜的大模型训练、在线推理,东数西算贵州、宁夏、庆阳大量部署。
2. 浸没式:目前以试点、超算、超大模型训练集群为主,整体占比不到10%。
- 案例:贵安浸没式算力方舱、腾讯云、阿里云小规模浸没试点,河南郑州相变浸没项目;
- 定位:单机柜100kW以上超高密度训练集群,适合持续不间断跑大模型预训练;在线推理业务基本不用浸没式,运维麻烦,性价比不划算 。
四、投资避坑要点(普通投资者重点看)
1. 很多宣传“浸没式液冷”项目,要看清楚:是已经大规模上架GPU,还是只是实验室/小样机试点;
2. 不要盲目迷信浸没式:不是PUE越低就越赚钱,要算全生命周期成本。如果机柜上架率低,浸没式高昂的前期投入会变成巨大负担;
3. 业务区分:在线推理优先冷板;超大算力长时间离线预训练,才值得考虑浸没式。
极简总结
短期(未来2-3年):冷板式依然是AI智算中心绝对主流;
中长期:随着H200、下一代超高功耗芯片普及,单机柜功率突破100kW,浸没式的占比才会慢慢提升。两者不是替代关系,是按机柜功率、业务类型分工共存。
全部
来源
来源
内容由AI生成
0
0
0评论
当前文章无评论,是时候发表评论了
提示信息
取消
确认
评论举报
最新文章
热门文章
-
在闲鱼12万卖掉特斯拉!当天手牵手过户,比贱卖给车商爽多了126 148
已收藏
去我的收藏夹