张大妈

GTC大会前瞻 机构报告梳理#英伟达#芯片 #ai #cpo #股市

源自抖音:胖虎哥投资笔记

03-03 10:15

针对英伟达GTC 2026的机构前瞻报告,揭示了从芯片、架构到互联的全链路重构,尤其是Rubin平台与LPX推理方案,将重新定义AI算力的底层逻辑。

GTC大会前瞻  机构报告梳理#英伟达#芯片 #ai #cpo #股市智能速览

  • LPX搭载SRAM内存,将推理延迟降至毫秒级。

  • Rubin平台采用4nm工艺,推理算力较Blackwell提升5倍。

  • CPX GPU使用GDDR7,大幅降低长上下文处理成本。

  • NVL576单机架集成576张卡,互联技术实现颠覆性突破。

  • 英伟达正从单芯片竞争转向AI基础设施全链路重构。

GTC大会前瞻  机构报告梳理#英伟达#芯片 #ai #cpo #股市精华内容

这次GTC不仅是硬件的堆叠,更是对AI数据中心底层逻辑的彻底重塑,以下为核心技术解读。

LPX低延迟推理

针对大模型推理中实时语音、视频及机器人控制等场景的延迟痛点,英伟达推出了基于Groq LPU技术的LPX芯片。该架构将数百兆SRAM直接堆叠在芯片上,由编译器在编译阶段排布数据与计算,彻底消除了运行时的带宽瓶颈,将延迟控制在毫秒级。

初代LPX为单机架64个LPU,增强版将提升至256个。LPX不仅能作为独立的超低延迟推理引擎,还能与Rubin GPU桥接进行混合部署,在混合专家模型中分别负责门控网络与专家计算,最大化不同场景下的效率。

Rubin核心算力

作为Blackwell的正统继任者,Rubin平台采用了4nm工艺,集成3360亿晶体管。其核心Rubin GPU配备了8堆HBM4内存,总容量达288GB,带宽提升至22TB/s,是目前主流HBM3E的2.75倍。

在算力表现上,NVFP4精度下推理算力达到50PFLOPS,是Blackwell的5倍;FP8训练算力35PFLOPS,提升了3.5倍。配套的Vera CPU拥有88个自研核心,支持1.5TB LPDDR5X内存,通过NV-Link6直连GPU,负责预处理等逻辑,让GPU专注于核心计算。

CPX性价比方案

面对百万级Token长上下文处理的高昂成本,英伟达推出了CPX GPU。该芯片不使用昂贵的HBM4,转而采用高性价比的GDDR7内存,单卡容量96GB,带宽1TB/s,专门优化长上下文的预填充阶段。

NVL144机架方案集成了144个Rubin GPU和144个CPX GPU,总算力达8EFLOPS。这种混合部署模式让CPX负责大容量存储的预填充,Rubin负责高带宽解码,既降低了成本又不牺牲性能,在特定场景下比GB300 NVL72性能高出3倍。

互联与散热

针对2027年规划的NVL576单机架576卡的超高密度,传统铜缆互联已无法满足需求。英伟达提出了正交背板和CPO(共封装光学)两套方案。正交背板采用78层混合PCB,将绝大多数铜缆内置;CPO方案则将光子引擎与交换芯片封装,功耗降低至9瓦,可靠性提升10倍。

散热方面,微通道冷板间距缩小至100微米并增加镀金处理。此外,无电缆模块化设计的应用,将机架组装时间从两小时缩短至五分钟,大幅提升了部署效率。

英伟达通过全栈技术整合,不仅提升了算力密度,更解决了互联与散热难题,为未来的AI工厂搭建了完整蓝图,行业竞争格局或将因此改变。

GTC大会前瞻  机构报告梳理#英伟达#芯片 #ai #cpo #股市关键评论

  • 网友认为PCB设备公司将是此次技术升级的重点受益对象。

  • 液冷技术被视为今年行业内最大的增量市场。

  • 有观点对比后认为,华为昇腾等产品依然具备强劲竞争力。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章