什么值得买App下载 App ›
连续签到专享现金活动

英伟达GTC大会Vera Rubin +Groq LPU

在英伟达GTC大会上,新一代GPU架构Vera Rubin的发布标志着AI计算能力的又一次跃升。黄仁勋在会上详细阐述了这一面向Agentic System(智能体系统)的完整超级计算平台,通过引入Groq LPU构建混合架构,并明确了未来几年的产品迭代节奏。
01Vera Rubin架构解析:7颗芯片与5种机架
Vera Rubin专为支持端到端软件优化和垂直整合的巨型系统能力而设计,其架构核心在于高度集成的芯片群。该超级计算平台由7颗全新芯片组成,构成了5种不同的机架形态,旨在提供完整的AI算力支持。
  • Rubin GPU
    核心图形处理单元
  • Vera CPU
    中央处理器
  • NVLink 6
    新一代高速互连技术
  • Groq3 LPU
    极致性能处理器(首次集成)
  • Memory支持
    包含数据交换与显存支持组件
02性能跃升数据对比
英伟达公布了各代架构之间的性能提升数据。相比上一代Hopper架构,2024年推出的Blackwell NVL72在推理性能上最高实现了35倍的提升。而最新的Rubin NVL72在对比Blackwell时,总体性能提升达到2至3倍,在最高难度的任务中提升幅度接近10倍。
架构型号对比对象总体性能提升最高难度任务提升
Blackwell NVL72Hopper最高35倍-
Rubin NVL72Blackwell2-3倍接近10倍
Rubin + GroqBlackwell-35倍

英伟达各代GPU架构性能提升对比

03模型分级路由策略
针对推理任务,黄仁勋提出了分级路由策略,将任务分为四个档位,主张并非所有任务都需要使用最高难度的模型。这种策略旨在以更低的成本实现更高的吞吐量。
档次代表案例参数规模成本特点
FreeQwen3 235B235B / 1T自部署成本较低
MediumKimi K2.51T-
HighGPT MoE2T$6
PremiumGPT 4.5 / Kimi C1T - 2T$45

AI模型推理分级策略

04Groq LPU混合架构:编码与解码分离
英伟达并未让Groq LPU直接替代GPU,而是采用拆解推理管线的方式。Groq3 LPU作为确定性数据流处理器,虽然只有500MB SRAM(约为Rubin GPU HBM4的1/500),但其带宽高达150TB/s,是Rubin的近7倍,天生适合低延迟的Token生成。
组件显存类型/容量带宽处理阶段
Rubin GPU288GB HBM422TB/sEncoding (Prefill + Attention)
Groq3 LPU500MB SRAM150TB/sDecoding (前馈网络 + Token生成)

Rubin GPU 与 Groq LPU 协作机制

通过NVIDIA Dynamo自动化路由软件,两者通过以太网紧密耦合。对于高吞吐量的训练或批量推理,建议100%使用Vera Rubin;而对于涉及大量编码或高价值Token需求的场景,建议在25%的数据中心配置Groq以优化性能。
05未来路线图与市场逻辑
英伟达锁定了未来几年的更新节奏,每一代产品推理性能预计提升3-5倍。黄仁勋指出,面对市场上模型吞吐量需求每年3-5倍的增长以及竞争对手的追赶,英伟达通过“自我革命”式的快速迭代来维持领先地位。此外,大会还展示了面向太空和机器人领域的芯片及开放架构,旨在拓展应用场景并反哺显卡需求。
  • 2024年
  • 2025年
  • 2026年
  • 查看全部进展

评论

评论区空态插画

当前文章无评论,是时候发表评论了