随着Agentic AI的临近,单纯的算力堆叠已无法满足低延迟推理需求。英伟达正通过堆叠式内存、背面供电和新编译器三位一体的Feynman架构,从物理层面重构芯片逻辑,旨在彻底解决内存瓶颈,为下一轮AI爆发铺平道路。
智能速览
AI推理时代,低延迟和长上下文成为新核心需求
英伟达Feynman架构融合堆叠内存、背面供电和LPU编译器
HBM在推理预填充阶段利用率不足1%,成本效益低下
Rubin CPX采用SRAM+GDDR7组合,作为向Feynman架构过渡的高性价比方案
精华内容
黄仁勋的焦点已从单纯追求算力,转向定义2028年之后的物理边界。这一目标的实现,依赖于三项环环相扣的技术,它们共同构成了英伟达的降维打击路线图。
内存堆叠革命
传统芯片的计算核心与内存并排平铺,数据搬运路径长,导致高延迟。英伟达利用台积电的SOIC封装技术,将SRAM内存仓库垂直堆叠在计算核心正上方。这一变革使数据传输距离从宏观的“公里级”缩短至微米级别,极大地降低了存取延迟,是消除内存瓶颈的物理基础。
背面供电协同
堆叠内存带来了巨大的功耗挑战,传统正面供电方式无法满足需求且易产生干扰。背面供电技术将供电网络埋设在晶圆背面,释放了正面宝贵的布线空间。这不仅为高功耗的堆叠内存提供了充足的电力供应,也减少了信号之间的干扰,是确保堆叠内存技术可行的关键支撑。
LPU编译器大脑
硬件革新需要智能软件调度。英伟达收购Groq后,引入了其LPU(语言处理单元)的编译器技术。该技术具备确定性调度能力,可精准计算每个数据字节在每一纳级的位置。此举解决了昂贵HBM显存在推理预填充阶段利用率不足1%的痛点,让英伟达从卖芯片升级为提供软件驱动的内存调度系统。
Rubin CPX过渡
在2028年Feynman架构全面落地前,英伟达推出Rubin CPX作为过渡方案。该加速器以独立机架形式部署,实现了计算密集型预填充与带宽密集型解码任务的分离。其核心是采用SRAM+GDDR7的组合,替代昂贵的HBM。由于GDDR7成本比HBM降低超50%,此举有效解决了当前Agentic AI应用落地的成本难题。
英伟达通过系统性的内存重构,正试图定义下一代AI芯片的物理形态。尽管面临Taalas等挑战者的新模式,但英伟达的软件与硬件整合能力仍是其护城河。这场变革将重塑整个半导体产业链,谁能最终胜出,将决定未来AI应用的走向与成本。
关键评论
有观点期待能看到与A股市场的关联分析
网友认为HBM成本过高,被替代是必然趋势