张大妈

报道:英伟达在下月GTC大会推出“新推理芯片”,融入Groq LPU设计

源自今日头条:华尔街见闻

03-02 12:23

面对AI推理市场对高效能、低成本计算的迫切需求,英伟达计划推出融合Groq LPU技术的新推理芯片。此举是其技术架构的重大突破,也可能重塑当前AI算力市场格局。随着OpenAI等头部客户转向采购,行业重心正从训练加速转向推理部署,这为寻求更优算力方案的企业带来了新选择。

报道:英伟达在下月GTC大会推出“新推理芯片”,融入Groq LPU设计智能速览

  • 英伟达即将发布整合Groq LPU技术的新推理芯片。

  • 此举标志着AI行业重心从预训练转向高效推理部署。

  • OpenAI已承诺采购,成为该新处理器的首批大客户之一。

  • 英伟达正拓展纯CPU部署模式,以提供多元化算力选择。

  • 此举是为了应对来自谷歌、亚马逊及初创公司的激烈竞争。

报道:英伟达在下月GTC大会推出“新推理芯片”,融入Groq LPU设计精华内容

英伟达如何通过整合LPU技术与调整CPU部署策略,来应对推理时代的挑战与机遇?这背后是其巩固市场统治地位的关键布局。

整合LPU设计

为解决大型AI模型解码过程缓慢的瓶颈,英伟达选择整合外部技术。据报道,英伟达斥资200亿美元获得初创公司Groq的关键技术许可,并吸纳了其核心团队。

Groq的LPU采用与传统GPU截然不同的架构,专为提升推理效率而设计。预计英伟达新发布的芯片可能涉及下一代Feynman架构,通过更广泛的SRAM集成甚至3D堆叠技术,直接针对延迟和内存带宽这两大推理瓶颈进行优化,目标是显著降低AI智能体运行的能耗与成本。

拓展纯CPU部署

在引入新架构的同时,英伟达也在灵活调整其硬件策略。过去,英伟达常将Vera CPU与Rubin GPU捆绑销售,但部分客户发现在运行特定AI工作负载时,这种配置成本过高。

顺应这一趋势,英伟达与Meta合作,进行了首次大规模纯CPU部署,用以支持其广告定向AI智能体。这表明英伟达正超越单一GPU销售模式,通过多元化的硬件组合来覆盖AI市场的不同细分领域。

市场换挡与竞争

硬件设计的演进源于市场需求。随着AI智能体应用爆发,许多公司发现传统GPU成本过高。OpenAI的动向凸显了这一趋势,它不仅向英伟达采购,还与Cerebras(号称速度超越GPU)和亚马逊(使用Trainium芯片)达成了合作。

同时,Anthropic等公司也倾向于使用云服务商自研芯片。面对竞争,英伟达正从芯片供应商向完整的AI生态系统构建者转型,试图在下一阶段继续巩固其市场地位。

英伟达此次战略调整,清晰展现了其对AI产业下一阶段的精准预判。通过技术整合与策略多元化,公司正积极应对市场变化,力图在推理时代延续其领导地位。即将到来的GTC大会,将是检验其能否成功转型的关键一站。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章