AI竞赛正从模型训练转向实际应用部署，推理环节成为新焦点。英伟达正计划推出一款专为AI推理设计的新处理器，此举不仅是产品策略的重大转向，也可能重塑当前由GPU主导的算力市场格局，为更高效、更低成本的AI应用铺平道路。
智能速览
英伟达计划推出全新的AI推理处理器，改变其以GPU为核心的战略。
该处理器将整合Groq公司的LPU芯片技术，专为高效推理设计。
OpenAI已确认将成为其客户，旨在提升自身编程产品的能力。
AI需求正从高成本的训练阶段，转向更注重性价比的推理阶段。
谷歌、亚马逊等巨头正自研芯片，挑战英伟达在推理市场的地位。
精华内容
随着AI应用深入企业，硬件需求正发生根本性转变。英伟达此举，正是为了抓住从训练到推理的下一个市场增长点。
为何转向推理
过去几年，英伟达凭借GPU在AI训练领域建立了超过90%市场份额的统治级优势。但市场重心正悄然改变，企业将AI从“训练阶段”推向“部署阶段”，需求从训练转向推理。
公司希望上线的AI代理能自动完成任务并带来订阅收入，但用GPU跑推理成本和耗电量巨大，并非“性价比最优解”。因此，市场迫切需要更便宜、更省电、专为推理优化的硬件。推理过程分为“预填充”和“解码”两步，其中解码在大模型上尤其慢，是优化的核心难点。
整合Groq技术
为应对挑战，英伟达选择与芯片初创公司Groq合作。英伟达去年底同意支付200亿美元，以许可Groq的关键技术并吸纳其核心团队，这是一笔大规模的acqui-hire交易。
Groq的芯片架构与英伟达不同，采用“语言处理单元”（LPU）的技术路线，在推理场景上效率更高。英伟达的新推理计算平台预计将整合这款由Groq设计的芯片，并于下月的GTC大会上正式亮相，这标志着其产品策略的明显转向。
锁定关键客户
OpenAI的加盟是英伟达此次计划的关键进展。作为英伟达的大客户，OpenAI最近几个月也在积极寻找更高效的替代方案，并已与Cerebras等芯片公司签署了合作协议。
OpenAI计划用英伟达这套新的推理系统，来进一步提升其编程助手OpenAI Codex的能力，以直接竞争Anthropic的Claude Code。OpenAI同时披露将获得英伟达300亿美元的投资，并签下使用亚马逊Trainium芯片的协议，显示出其在算力来源上的多元化布局。
应对多方竞争
推理计算正成为芯片行业竞争最激烈的方向，谷歌、亚马逊等云巨头都在自研芯片，试图在部分场景上挑战英伟达的GPU。与此同时，英伟达也在探索GPU之外的路径。
一些大型客户发现，某些AI代理工作负载用“只上CPU”运行效率更高。本月英伟达宣布与Meta扩大合作，就包括一次大规模的“CPU-only”部署，用于支持Meta的广告定向AI代理。这表明英伟达正试图通过多种硬件组合，锁定AI市场的新增需求。
英伟达进军专用推理芯片，标志着AI硬件竞赛进入新篇章。未来，芯片解决方案将更加多元化和精细化，以满足不同场景的需求。这是否会引发新一轮的AI性能和成本革命？
