张大妈

揭秘下一代GPU内存:HBM5与HBM6

源自新浪微博:人工智涨Ultra

02-25 13:08

随着英伟达AMD的新一代GPU即将采用HBM4内存,更先进的HBM5和HBM6标准已在设计中。这些未来的内存技术将带来颠覆性的性能提升,通过翻倍的数据通道和带宽,为AI与高性能计算领域注入强大动力。了解其核心规格,有助于预判未来算力的天花板,把握技术发展趋势。

揭秘下一代GPU内存:HBM5与HBM6智能速览

  • HBM5的IO通道数相比HBM4提升一倍,带宽可达4TB/s。

  • HBM6数据速率将翻倍至16Gbps,总带宽冲击8TB/s。

  • HBM5将配备80GB容量,HBM6最高可达120GB。

  • 为应对高功耗,HBM5和HBM6将采用浸没式冷却方案。

  • HBM5预计2029年上市,将用于英伟达Feynman和AMD MI500系列GPU。

揭秘下一代GPU内存:HBM5与HBM6精华内容

从HBM4到HBM6,内存技术的演进不仅是数字的飞跃,更是对未来AI算力需求的直接回应。下面将深入解读HBM5与HBM6的核心规格。

HBM5:通道翻倍

HBM5相较于HBM4最显著的提升在于IO通道数,从2048位直接翻倍至4096位。尽管其数据速率维持在8Gbps,但通道数的增加使得总带宽跃升至每堆栈4TB/s。

在容量方面,HBM5将采用16层堆栈,搭配40Gb的DRAM芯片,实现每堆栈80GB的容量。其封装功耗预计将达到100W,并计划于2029年正式上市。

HBM5将主要服务于英伟达下一代Feynman架构和AMD的Instinct MI500系列GPU,为未来的AI训练和推理任务提供内存支持。

HBM6:性能巅峰

作为HBM5的后继者,HBM6将主打更高的功率、容量和带宽。其数据传输速率相比HBM5翻倍,达到16Gbps,总带宽也随之飙升至8TB/s。

在容量上,HBM6将首次突破16层堆叠的限制,提供16层和20层两种选择。配合48Gb的DRAM芯片,其单堆栈容量将达到96GB至120GB。封装功耗也进一步提升至120W。

为应对更高的密度和信号完整性挑战,HBM6将采用更先进的无凸点铜-铜直接键合封装技术。

散热革命

HBM5和HBM6带来的性能飞跃也伴随着功耗的急剧增加,分别达到了100W和120W,这对散热提出了前所未有的挑战。传统的风冷解决方案已难以满足需求。

因此,浸没式冷却将成为HBM5和HBM6的标准冷却方案。此外,热通孔和热键合等技术也将被应用,以确保高功耗下的稳定运行。散热技术的创新,将是保障未来高性能计算发挥全部潜能的关键。

HBM5和HBM6的规格揭示了AI时代对内存性能的极致追求。随着这些高带宽内存的落地,未来的GPU将解锁更强大的计算潜能。面对如此高的功耗,散热技术将成为决定最终性能发挥的关键一环,这又将催生哪些创新?

精选参考来源

英伟达 Vera Rubin 和 AMD Instinct MI450 将使用最新的HBM4,但下两代的HBM5和HBM6也已经开始设计了。下一代内存标准的宽TC键合机(Wide TC Bonde)已经发布了,这是HBM5和HBM6的关键技术。本文了解下HBM5和HBM6可能的规格。HBM5继续采用 8 Gbps的数据速率,但IO通道数相比HBM4提升了一倍来到了4096位。带宽也增加到每堆栈4 TB/s,16层标准堆栈。配合40 Gb的DRAM芯片,HBM5每堆栈将达到80 GB的容量,每堆栈功耗预计将达到100W,预计2029年上市。HBM5相关规格如下:- 数据速率: 8 Gbps- IO数量: 4096- 总带宽: 4.0 TB/s- 芯片堆栈层数: 16层- 每芯片容量: 40 Gb- 每HBM容量: 80 GB- 每HBM封装功耗: 100W- 封装方法: 微凸块(MR-MUF)- 冷却方法: 浸没式冷却、热通孔(TTV)、热键合- 基础芯片中的LPDDR+CXLHBM5主要用于英伟达下一代的 Feynman 架构和AMD  Instinct MI500 GPU系,相比HBM4,数据通道整整提升了二倍,这是其最大特点,带来的技术复杂度也大大增加。再下一代的HBM6,主打就是高功率、大容量、高带宽。数据传输速率翻倍,带宽翻倍到8 TB/s,每DRAM芯片的容量48 Gb。另外HBM堆栈将首次突破16层,达到20层,内存容量每堆栈将达到96-120 GB,每堆栈功耗为120W。此外HBM5和HBM6都将采用浸没式冷却解决方案。HBM6相关规格:- 数据速率: 16 Gbps- IO数量: 4096- 总带宽: 8.0 TB/s- 芯片堆栈层数: 16/20层- 每芯片容量: 48 Gb- 每HBM容量: 96/120 GB- 每HBM封装功耗: 120W- 封装方法: 无凸点铜-铜直接键合- 冷却方法: 浸没式冷却AI时代,内存产商将吃饱,不管是服务器,GPU,手机,PC 都需要大量是内存。
内容由AI生成

精选参考来源

英伟达 Vera Rubin 和 AMD Instinct MI450 将使用最新的HBM4,但下两代的HBM5和HBM6也已经开始设计了。下一代内存标准的宽TC键合机(Wide TC Bonde)已经发布了,这是HBM5和HBM6的关键技术。本文了解下HBM5和HBM6可能的规格。HBM5继续采用 8 Gbps的数据速率,但IO通道数相比HBM4提升了一倍来到了4096位。带宽也增加到每堆栈4 TB/s,16层标准堆栈。配合40 Gb的DRAM芯片,HBM5每堆栈将达到80 GB的容量,每堆栈功耗预计将达到100W,预计2029年上市。HBM5相关规格如下:- 数据速率: 8 Gbps- IO数量: 4096- 总带宽: 4.0 TB/s- 芯片堆栈层数: 16层- 每芯片容量: 40 Gb- 每HBM容量: 80 GB- 每HBM封装功耗: 100W- 封装方法: 微凸块(MR-MUF)- 冷却方法: 浸没式冷却、热通孔(TTV)、热键合- 基础芯片中的LPDDR+CXLHBM5主要用于英伟达下一代的 Feynman 架构和AMD  Instinct MI500 GPU系,相比HBM4,数据通道整整提升了二倍,这是其最大特点,带来的技术复杂度也大大增加。再下一代的HBM6,主打就是高功率、大容量、高带宽。数据传输速率翻倍,带宽翻倍到8 TB/s,每DRAM芯片的容量48 Gb。另外HBM堆栈将首次突破16层,达到20层,内存容量每堆栈将达到96-120 GB,每堆栈功耗为120W。此外HBM5和HBM6都将采用浸没式冷却解决方案。HBM6相关规格:- 数据速率: 16 Gbps- IO数量: 4096- 总带宽: 8.0 TB/s- 芯片堆栈层数: 16/20层- 每芯片容量: 48 Gb- 每HBM容量: 96/120 GB- 每HBM封装功耗: 120W- 封装方法: 无凸点铜-铜直接键合- 冷却方法: 浸没式冷却AI时代,内存产商将吃饱,不管是服务器,GPU,手机,PC 都需要大量是内存。

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章