张大妈

英伟达放弃GPU上LPU:新推理芯片被曝Groq即买即用,OpenAI第一个吃螃蟹

源自今日头条:36氪

03-03 10:11

英伟达即将在GTC大会上发布基于LPU架构的新推理芯片,首次在核心AI算力产品线上引入外部架构设计。这一战略转变标志着AI算力重心从训练向推理的转移,可能重塑整个芯片行业格局。

英伟达放弃GPU上LPU:新推理芯片被曝Groq即买即用,OpenAI第一个吃螃蟹智能速览

  • 英伟达斥资200亿美元收购Groq核心技术团队

  • LPU架构理论速度可比GPU快100倍

  • OpenAI成为新推理芯片首位客户

  • 推理市场正成为AI算力主战场

  • 华为等国产芯片厂商加速崛起

英伟达放弃GPU上LPU:新推理芯片被曝Groq即买即用,OpenAI第一个吃螃蟹精华内容

随着Agent应用普及,AI算力需求结构正在发生根本性变化,英伟达首次在核心产品线上引入外部架构,这一决定背后隐藏着怎样的战略考量?

架构换血

英伟达即将发布的全新AI推理系统采用Groq的LPU架构,这是公司首次在核心AI算力产品线上大规模引入外部架构设计。去年英伟达斥资约200亿美元完成对Groq核心技术与团队的"acqui-hire",引入了包括谷歌TPU之父Jonathan Ross在内的核心成员。这一举措体现了黄仁勋典型的商业策略:买成熟方案,快速部署,直接上战场,追求极致的ROI。

LPU优势

LPU与GPU的根本区别在于存储架构设计。GPU将大量模型参数存放在外部HBM中,计算核心与内存间需要频繁数据搬运,这在推理阶段成为瓶颈。LPU采用高密度片上SRAM,让数据"贴着算力跑",极大缩短数据路径。理论上,LPU的最高速度可比GPU快100倍,更适合低延迟推理场景,特别是Agent应用的高频调用需求。

英伟达放弃GPU上LPU:新推理芯片被曝Groq即买即用,OpenAI第一个吃螃蟹

客户驱动

OpenAI已成为新推理芯片的首位大客户,其最新融资文件显示将扩大与英伟达的长期合作,包括使用3GW的专用推理算力。但OpenAI并非唯一寻求替代方案的公司,上月还与Cerebras签署了数十亿美元计算合作协议。Anthropic更多依赖AWS与Google Cloud自研芯片,Meta也与AMD达成大规模合作。头部客户的多元化策略正在加速推理芯片市场竞争。

国产崛起

国产芯片厂商正快速抢占推理市场。DeepSeek已将V4模型早期访问权限独家授予华为,并在昇腾平台完成迁移。寒武纪也出现在相关合作传闻中。据Bernstein Research预测,到2026年华为在中国AI芯片市场份额可能达到50%,而英伟达份额或降至个位数。这一趋势显示出地缘政治因素对芯片格局的深远影响。

未来展望

除LPU芯片外,英伟达还将在GTC大会上发布"世界前所未见"的新系列产品,可能包括Rubin系列新一代GPU和Feynman系列全新架构芯片。面对推理市场的快速增长,英伟达必须同时保持训练领域的优势和在推理市场的竞争力。这场架构之争将决定未来几年AI芯片市场的格局。

英伟达的LPU布局不仅是技术选择,更是对AI算力市场变化的战略回应。推理正从训练的补充环节转变为规模更大、频率更高的长期负载。在这场架构创新竞赛中,谁能更好地平衡性能、成本和生态,谁就将掌握未来AI发展的主动权。

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章