张大妈

英伟达的赌局:从芯片巨头到AI基建工厂

源自UP主:硅基洞察

01-15 12:59

面对AI算力需求指数级增长与成本控制的尖锐矛盾,英伟达给出了全新的答案。它不再聚焦于单一芯片的性能提升,而是选择重构从芯片到系统的整个AI基础设施,试图以系统工程的优势,解决行业面临的最现实问题。

英伟达的赌局:从芯片巨头到AI基建工厂智能速览

  • 计算机行业正经历CPU到GPU、编程到训练的双重革命

  • AI模型规模与Token使用量激增,但成本必须逐年下降

  • 英伟达发布Vera Rubin平台,从卖芯片转向卖协同设计的AI系统

  • AI推理瓶颈从算力转向上下文存储,催生新的内存层

  • 英伟达采用软件开源与基建闭源并行的激进策略

  • 其核心价值已从算力转变为提供确定性与效率

英伟达的赌局:从芯片巨头到AI基建工厂精华内容

面对AI算力需求与成本控制的尖锐矛盾,英伟达选择了一条重构整个技术栈的激进路径,试图从源头解决问题。

AI变革的十字路口

黄仁勋判断,计算机行业正经历一场双重变革:计算方式从CPU转向GPU,软件开发从人工编程转向机器训练。这两场变革叠加,正在重塑过去十年价值约十万亿美元的整个计算产业。需求的压力同样巨大,AI模型规模每年增长10倍,推理所用Token数量每年增长5倍,但每个Token的生成成本却必须以10倍的速度下降。沿用过去堆叠算力的旧模式,将完全无法支撑未来的发展。

系统即AI工厂

英伟达的应对之策是发布名为Vera Rubin的AI超级计算机平台。其核心思想并非追求单一组件的最强性能,而是通过六种自研芯片的协同设计,将CPU、GPU、网络、存储等融为一体,实现整体运行时的最优成本、稳定性与可维护性。特别是NVLink 72整机柜解决方案,已不再被视作一台计算机,而被当作标准化的“生产单元”,部署时间从2小时缩短至5分钟,液冷覆盖率达到100%,支持在线维护,让数据中心真正向AI工厂转变。

上下文,新的性能瓶颈

随着Agent AI和多轮对话的普及,AI推理的性能瓶颈已从算力转向了上下文处理。传统方案中,KVCache要么占用昂贵的显存,要么存入慢速的硬盘导致延迟飙升,成本与效率难以兼顾。为此,英伟达在GPU与存储之间打造了一层全新的“Context Memory”,通过BlueField DPU和Spectrum-X网络进行调度,专门用于存取上下文信息。这一创新虽不如新GPU瞩目,却可能对未来推理架构产生深远影响。

战略闭环与未来

至此,英伟达的战略蓝图十分清晰:一方面,在模型、数据等软件层面持续开源,拥抱多模型与多云混合架构,以扩大生态;另一方面,通过芯片、互联、网络和系统工程的深度整合,构建越来越不可替代的基础设施。用户可以不使用它的模型,但很难绕开它的基础设施。最终,英伟达通过DGX SuperPOD将所有技术整合,在同等延迟下将Token成本降至原来的十分之一,卖出的已不再是单纯的算力,而是“确定性”与“效率”。

从这场演讲可以看出,英伟达已不再将自己定位为一家芯片公司,而是AI时代的基础设施建造者。它赌的是,当AI推理规模持续爆炸时,整个行业终将认识到系统工程的价值远超单点算力。这种从底层重构产业的打法,将如何定义AI世界的未来格局?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章