英伟达GTC大会Vera Rubin +Groq LPU
在英伟达GTC大会上,新一代GPU架构Vera Rubin的发布标志着AI计算能力的又一次跃升。黄仁勋在会上详细阐述了这一面向Agentic System(智能体系统)的完整超级计算平台,通过引入Groq LPU构建混合架构,并明确了未来几年的产品迭代节奏。
01Vera Rubin架构解析:7颗芯片与5种机架
Vera Rubin专为支持端到端软件优化和垂直整合的巨型系统能力而设计,其架构核心在于高度集成的芯片群。该超级计算平台由7颗全新芯片组成,构成了5种不同的机架形态,旨在提供完整的AI算力支持。
- Rubin GPU
核心图形处理单元 - Vera CPU
中央处理器 - NVLink 6
新一代高速互连技术 - Groq3 LPU
极致性能处理器(首次集成) - Memory支持
包含数据交换与显存支持组件
02性能跃升数据对比
英伟达公布了各代架构之间的性能提升数据。相比上一代Hopper架构,2024年推出的Blackwell NVL72在推理性能上最高实现了35倍的提升。而最新的Rubin NVL72在对比Blackwell时,总体性能提升达到2至3倍,在最高难度的任务中提升幅度接近10倍。
| 架构型号 | 对比对象 | 总体性能提升 | 最高难度任务提升 |
|---|---|---|---|
| Blackwell NVL72 | Hopper | 最高35倍 | - |
| Rubin NVL72 | Blackwell | 2-3倍 | 接近10倍 |
| Rubin + Groq | Blackwell | - | 35倍 |
英伟达各代GPU架构性能提升对比
03模型分级路由策略
针对推理任务,黄仁勋提出了分级路由策略,将任务分为四个档位,主张并非所有任务都需要使用最高难度的模型。这种策略旨在以更低的成本实现更高的吞吐量。
| 档次 | 代表案例 | 参数规模 | 成本特点 |
|---|---|---|---|
| Free | Qwen3 235B | 235B / 1T | 自部署成本较低 |
| Medium | Kimi K2.5 | 1T | - |
| High | GPT MoE | 2T | $6 |
| Premium | GPT 4.5 / Kimi C | 1T - 2T | $45 |
AI模型推理分级策略
04Groq LPU混合架构:编码与解码分离
英伟达并未让Groq LPU直接替代GPU,而是采用拆解推理管线的方式。Groq3 LPU作为确定性数据流处理器,虽然只有500MB SRAM(约为Rubin GPU HBM4的1/500),但其带宽高达150TB/s,是Rubin的近7倍,天生适合低延迟的Token生成。
| 组件 | 显存类型/容量 | 带宽 | 处理阶段 |
|---|---|---|---|
| Rubin GPU | 288GB HBM4 | 22TB/s | Encoding (Prefill + Attention) |
| Groq3 LPU | 500MB SRAM | 150TB/s | Decoding (前馈网络 + Token生成) |
Rubin GPU 与 Groq LPU 协作机制
通过NVIDIA Dynamo自动化路由软件,两者通过以太网紧密耦合。对于高吞吐量的训练或批量推理,建议100%使用Vera Rubin;而对于涉及大量编码或高价值Token需求的场景,建议在25%的数据中心配置Groq以优化性能。
05未来路线图与市场逻辑
英伟达锁定了未来几年的更新节奏,每一代产品推理性能预计提升3-5倍。黄仁勋指出,面对市场上模型吞吐量需求每年3-5倍的增长以及竞争对手的追赶,英伟达通过“自我革命”式的快速迭代来维持领先地位。此外,大会还展示了面向太空和机器人领域的芯片及开放架构,旨在拓展应用场景并反哺显卡需求。
- 2024年
- 2025年
- 2026年
- 查看全部进展
当前文章无评论,是时候发表评论了