英伟达发布新一代 AI 芯片 H200

英伟达宣布推出NVIDIA HGX™ H200，这是全球领先的AI计算平台的新动力来源。该平台基于NVIDIA Hopper™架构，作为NVIDIA H100 GPU的继任者，它是NVIDIA首款搭载HBM3e内存的芯片，可加速生成式AI和大型语言模型，并推进科学计算中的HPC工作负载。

借助HBM3e，英伟达H200提供了每秒4.8 TB的速度和141GB的内存，与A100相比，内存容量几乎翻倍，带宽增加了2.4倍。

H200的推出将带来更大的性能提升，具体而言，在Llama 2推理速度方面比H100快了一倍。英伟达表示，未来的软件更新将带来H200的额外性能优势和改进。

英伟达H200芯片将于2024年第二季度开始供应给全球系统制造商和云服务提供商。这将进一步推动AI计算平台的发展，并为各个领域带来更大的计算能力和性能提升。