从通用训练到长链推理，NVIDIA HGX B300 平台在 B200 的基础上实现了架构与性能的跃升。这次升级不仅是显存和网络的简单堆砌，更代表着对 AI 计算未来趋势的精准布局，为特定场景提供了更强的算力支持。
智能速览
HGX B200 搭载 8 颗 B200 GPU，专注通用 AI 训练与推理。
HGX B300 基于 Blackwell Ultra 架构，专为长链推理设计。
B300 显存容量大幅提升至 2.1TB，是 B200 的 1.5 倍。
B300 新增 ConnectX-8 网络模块，优化高速互联能力。
精华内容
深入来看，B300 并非 B200 的简单升级，而是面向未来 AI 推理场景的专精化演进。
架构之别
HGX B200 搭载的是标准的 Blackwell 架构 B200 GPU，其设计目标是满足广泛的 AI 训练与推理需求。而 HGX B300 则升级到了 Blackwell Ultra 架构，这并非简单的频率提升，而是对底层计算单元和互联总线进行了优化，使其在处理复杂的长链推理任务时效率更高。
显存跃升
显存是 AI 推理，尤其是大模型推理的关键瓶颈。B200 平台配备了 1.4TB 的 HBM3E 内存，这在当时已是顶级配置。B300 则将这一数字大幅提升至 2.1TB，增加了 50%。这意味着它能同时容纳更大的模型，或者在处理同样规模的模型时，拥有更高的数据吞吐量，显著提升了 test-time scaling 的能力。
网络与定位
B300 在网络层面也做出了重要升级，新增了 ConnectX-8 高速网络模块。这大大增强了多节点间的通信效率，对于需要跨服务器协同工作的长链推理场景至关重要。因此，B200 的定位是通用的 AI 工作负载，而 B300 则更加聚焦于需要海量显存和高速网络协同的 AI reasoning（推理）领域，体现了 NVIDIA 对市场需求的精准细分。
HGX B300 的出现，标志着 AI 硬件正从通用化向专精化演进。未来，针对不同场景的专用计算平台是否会成为主流？
