新华三出席全球AI芯片峰会 以“算力×联接”加速AI技术蝶变

源自公众号:新华三

02-06 02:24

面对AI大模型发展中的算力、显存与通信三重瓶颈,如何构建高效的算力基础设施成为关键。新华三基于“算力×联接”理念,推出了超节点产品,通过技术创新打破了单机性能天花板,为万亿级参数大模型的训练与推理提供了强劲的算力引擎,展现了AI基础设施的演进方向。

新华三出席全球AI芯片峰会 以“算力×联接”加速AI技术蝶变智能速览

  • AI大模型发展面临算力、显存、通信三重墙。

  • 华三提出“算力×联接”理念,推出超节点产品。

  • H3C UniPoD S80000卡间互联带宽提升8倍,单柜支持64卡。

  • H3C UniPoD F80000实现64卡高速互联,训练性能提升超35%。

  • 未来AI基础设施将走向计算与网络的深度融合。

新华三出席全球AI芯片峰会 以“算力×联接”加速AI技术蝶变精华内容

新华三的超节点产品是如何通过具体技术路径,将“算力×联接”的理念转化为工程实践,并有效击穿AI基础设施面临的性能瓶颈的?

突破三重瓶颈

随着AI技术飞速发展,MoE大模型等新应用对资源的需求急剧增加。这导致AI基础设施工程落地面临“算力墙”、“显存墙”和“通信墙”三重制约。要突破这些瓶颈,核心在于构建高效可靠的多机多卡集群,打造高带宽低时延的通信网络,从而打破单机性能天花板,实现大模型并行技术所需的高频卡间通信。

H3C UniPoD S80000

作为面向万亿级参数模型训推场景的超节点产品,H3C UniPoD S80000实现了性能、密度、效率的三重进化。它采用液冷高密部署,单柜可支持部署64张AI加速卡,并兼容下一代高性能卡。

通过“以网强算”的设计,其柜内卡间实现全互联通信,互联带宽大幅提升8倍。这使得单卡训练效率相较于传统单节点提升25%,单卡推理效率则提升62.5%。

此外,三总线全盲插与全面的漏液检测设计,也极大简化了运维流程,提升了能效产出。

H3C UniPoD F80000

H3C UniPoD F80000是一款依托全国产算力平台的超节点产品,它采用创新的PCIe光互联技术,成功突破了单机板内走线的物理限制,实现了64张AI加速卡的高速互联。

这项技术将卡间带宽大幅提升至576GB/s,使得模型训练性能提升超过35%。

基于灵活开放的产品理念,该产品支持基于不同形态的AI服务器及加速卡灵活构建超节点,并支持按需定义16/32/64卡的产品拓扑,实现灵活交付。

未来演进方向

展望未来,新华三认为算力的终极目标是为获取最佳的AI应用体验。AI加速卡的生态将愈发繁荣,计算架构也将持续优化。

在联接方面,打造高带宽低延迟的卡间高速互联网络是必然路径,Scale-up高速互联的技术标准也将走向统一。

未来需要在物理层、链路层、传输层等各层级进行优化,尤其是支持Load/Store特性以满足AI计算需求,最终促进计算与网络的深度融合。

新华三的超节点方案不仅为当前AI大模型的工程落地提供了切实可行的路径,也预示了算力基础设施“以网强算”的未来趋势。随着计算与网络的持续融合,AI技术的边界将如何被进一步拓展?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章