国产GPU迈出一大步!天数智芯天垓300实测反超NVIDIA H200

国产GPU迈出一大步!天数智芯天垓300实测反超NVIDIA H200

2026-10-29 10:00:40 0点赞 0收藏 0评论

快科技10月29日消息,据报道,在天数智芯10月28日举办的从模型到世界2026媒体开放日活动,旗下新一代AI芯片天垓300首次面向媒体开放实机演示。

活动现场开放天垓300实机演示,接受与H200在GLM-5.3等大语言模型、文生图、文生视频场景的对比测试,天垓300整体表现均优于H200。

训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。

天垓300于今年7月世界人工智能大会上正式发布,采用天数天枢架构,集成新一代Tensor Core,配备144GB显存,原生支持标量、矢量、张量三类计算模式,覆盖FP4、FP8、FP16、BF16等多种数据精度,并支持高速片间互联。

上海仪电今年7月完成的第三方实测显示,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,这是国内首个实测性能达到H200水平的通用GPU。

天数智芯性能实验室的实测进一步覆盖典型业务场景:

在64K长上下文下,天垓300的Attention性能为H200的1.05倍;

GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;

8K至128K长上下文场景下Agent首字延迟较H200降低约10%至30%;

多模态生成推理吞吐较H200提升约2%至5%;

在搜广推等在线业务中,推荐推理吞吐提升21%,轻量计算时延降低26%。

规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案,天垓300 IXL144超节点在单个标准机柜内集成144颗GPU,约10.1TB显存,每百万有效Token成本较国际主流方案可降低约40%。

国产GPU迈出一大步!天数智芯天垓300实测反超NVIDIA H200

编辑:黑白

【本文结束】如需转载请务必注明出处:快科技

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
京东京享红包
距结束::
领京东现金红包 天天领3次 最高26888元
红包按钮
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松