英伟达Blackwell Ultra GB300已全面投产配备超大288GB HBM3e显存
来源——AMP实验室
劲吔
英伟达近日宣布,其最新最强大的AI芯片GB300 Blackwell Ultra 芯片已全面投入生产,并已向主要客户推出。虽然这款芯片是Blackwell系列解决方案的扩展,但它确实在性能和功能上提供了重大升级。

就像GeForce产品上的SUPER升级一样,Ultra系列也是最开始时推出的AI芯片的增强版本。英伟达在之前的产品阵容Hopper或者Volta中没有提到过Ultra产品,但从技术上来说,这些产品线上确实存在了“Ultra”或者增强版本。此外,尽管新发布的是Ultra芯片,但同样带来了软件更新和优化,为非Ultra芯片带来了一些实质性增益。

Blackwell Ultra GB300使用了十字形封装了两颗芯片,并将它们通过英伟达NV-HBI高带宽接口进行互联,为两个GPU芯片互联提供10TB/s的超高带宽,以此封装为一个单颗GPU。该芯片基于台积电4NP工艺节点,总计达到了2080亿个晶体管。

在一整个的GB300 Ultra芯片中,总共包含了160个SM流式多处理器组,每个SM中配置了128个CUDA内核、4个支持FP8/FP6/NVFP4精度计算的第五代Tensor内核、256KB Tensor缓存,总计达到了20480个CUDA内核和640个Tensor内核。
第五代Tensor Core(张量核心)是所有传奇开始的地方,这些硬件负责所有的AI计算,而英伟达为其GPU每一代的张量核心都带来了重大重新,在Blackwell上,张量核心支持了FP8/FP6/NVFP4计算,以及第二代Transformer引擎。

GB300 Ultra还对显存进行了巨大升级,提供288GB的HBM3e容量,而之前的GB200方案最大容量为192GB。这次升级将使得英伟达得以支持三千万亿参数的AI模型。该HBM3e分为了8个堆栈,对应了16个512Bit显存控制器,也就是多达8192Bit显存位宽,因此其带宽高达8TB/s。

Blackwell间的NVLink互联与NVLink交换机、NVLink-C2C提供的相同,并且还能使用PCIe6 ×16接口来连接到主机GPU,这可以提供256GB/s的双向带宽。

种种要素相叠加,GB300 Ultra平台得以基于使用NVFP4标准,在高密度低精度计算输出中提升50%,新模型可提供接近FP8的精度,而差异可做到小于1%。相比于FP8精度,显存占用减少了44.4%;相比FP16精度,显存占用减少了71.4%
英伟达再一次通过决定性产品,稳固了自己的AI霸主地位,每年的硬件节奏加上持续增量的研发,让他们始终保持企业的领先。
