SPHBM4内存正式公布:刚做到HBM3的中国,可以弯道超车了!

JEDEC标准组织正式批准了新一代高带宽内存标准SPHBM4,全称“标准封装第四代高带宽内存”,编号JESD330-4。
众所周知,HBM系列内存是AI行业必需的,可为大规模AI训练、推理提供超大容量、超高带宽,但同时面临成本太高、功耗发热逐渐失控、产能日趋紧张等问题。
SPHBM4正是为此而来。

【SPHBM4是什么?】
SPHBM4采用与HBM4完全相同的DRAM内存裸片,同样支持4-16层TSV硅通孔,单个堆栈的最大容量为64GB。
但它改变了接口基底裸片,可以将整套内存堆叠在传统的ABF有机基板上,不再需要昂贵复杂的硅基板和硅中介层,也不需要同样昂贵复杂的CoWoS 2.5D先进封装工艺,从而大幅降低成本。
因此,内存和SoC芯片的最大走线距离,可以从几乎紧贴的毫米级别,延长到最大20毫米。
同时,SPHBM4对于凸点间距要求也非常宽松,最大可以超过90微米,因此可以大大改善良品率和产能,还允许在同样的空间内集成更多SPHBM4,系统内存容量能够做得更大。
不过,HBM4的基底裸片只是简单的并行接口逻辑,SPHBM4因为没有硅中介层,基底就复杂多了,不得不集成全套4:1 SerDes、串化器、解串器、通道均衡、FEC纠错、时钟训练等电路。
在物理I/O数据引脚设计上,HBM4使用的是2048路并行信号,也就是2048-bit位宽,单个引脚的数据传输率为11Gbps,单个堆栈的总带宽超过2.8TB/s。
SPHBM4则改成了512路,减少了多达75%,但是结合4:1 SerDes串行补偿,单个引脚的速率以同样4:1的比例提高到最多46Gbps,最低也有22.4Gbps。
因此,SPHBM4单个堆栈的总带宽理论上最高可以做到2.944TB/s,对比HBM4处于同样的水平甚至可以更高一点,即便最低也有1.43TB/s,相当于HBM4的一半。

【SPHBM4的优缺点】
SPHBM4的最大优势就是封装简单、成本更低、散热更好、供应链成熟,同时容量、带宽无损失。
HBM4必须采购高价的硅中介层,搭配溢价极高的CoWoS先进封装,这部分成本就占了超过30%。
SPHBM4使用成熟、低价的有机基板,而且引脚大幅减少,凸点工艺大幅简化,封装良率自然更高,预计封装成本可节省25-40%。
要知道,HBM4的封装几乎完全被台积电垄断,SPHBM4则有大量封测厂商可以做,包括国内众多厂商,同时TSV硅通孔、DRAM堆叠都是通用的,产能自然不是问题。
HBM4的发热问题,也可以被SPHBM4的更长走线、更远距离所缓解,因此可以根据需要增大内存容量,或者增加算力。
但是,必须清醒地认识到,SPHBM4更多的是一种妥协方案,HBM4在延迟、能效、稳定性、生态应用上依然有着无可比拟的优势。
HBM4没有串行并行转换,原生延迟极低,可以做到几个ns(纳秒),所以在超大模型训练和对延迟要求极高的场景中,是不可取代的。
HBM4基板虽然贵但结构简单,SPHBM4则加入了大量电路,对于功耗、能效乃至信号完整性、稳定性都有着很大的影响,长时间高负载运行可能更容易老化。
总之,SPHBM4绝非用来取代HBM4,而是各有所长、互为补充。
SPHBM4牺牲了一部分性能,换来的是更低成本、更好落地,适合AI推理、行业大模型、中小集群、内存敏感型加速等场景。

【SPHBM4给中国带来了弯道超车的新机会】
众所周知,国产厂商正在GPU加速器方面努力追赶,差距不断缩小,呈现百花齐放的局面。
但是HBM内存一直是阿喀琉斯之踵,DRAM先进工艺、硅中介层、CoWoS先进封装和高速测试设备都落后非常多,无论技术还是产能都不是短时间能解决的。
根据业内消息,目前国内只有长鑫存储(CXMT)在攻关HBM,而且只做到HBM3,还处于样品阶段,预计今年底才能小规模量产,但良品率非常低,成本高得多,同时DRAM内存和产能也是极大的制约。
预计长鑫明年会尝试打造HBM3E,HBM4标准更是还在预研阶段,而三星、SK海力士、美光已经奔着HBM5去了……
CoWoS 2.5D封装目前国内已经初步摸到门槛,但硅中介层的产能极低,和台积电比还差一个数量级。
所以按照传统路线,国产GPU加速器要想真正追赶世界先进水平,只能继续砸钱砸资源搞研发,时间漫长,乐观估计也得三五年。
如今,SPHBM4来了,我们有了一个新的机会。
它绕开了国内最头疼的硅中介层、CoWoS先进封装,直接使用成熟的有机基板、内存堆叠,再加上AI GPU芯片、封装测试等,国内已经有极为成熟的全套产业链,可以快速切入上量。
同时,预计三星、SK海力士、美光短期内的主要精力仍然会放在HBM4,毕竟利润更加丰厚,这就给了国内发展的先机。
国产信创的庞大需求,更是对相关厂商的极大吸引和刺激。
当然,高速串行电路、DRAM产能制约、生态应用适配等依然需要克服,但是难度要低得多。
总之,SPHBM4并非为中国厂商和市场专门准备,但确实给中国带来了差异化突围的新路线,全力发展的话预计3年左右即可形成相当的规模,前景可期!
