面对AI应用中居高不下的推理成本，英伟达计划推出一款专用推理芯片，直指谷歌和亚马逊等对手的优势领域。该芯片不仅已获得OpenAI的订单，其技术路线更可能通过改变传统内存架构，重塑AI算力市场的成本结构，引发新一轮行业竞争。
智能速览
英伟达计划在3月GTC大会上发布全新推理芯片。
该芯片已获得OpenAI的采购承诺，后者刚获英伟达30亿美元投资。
新芯片技术源自对推理芯片公司Groq的收购，金额达20亿美元。
Groq的技术路线以高比例SRAM替代HBM，旨在降低推理成本与延迟。
此举意在直接挑战谷歌TPU和亚马逊Trainium在推理市场的地位。
精华内容
面对AI推理成本挑战，英伟达不再固守GPU，而是推出专用芯片。此举不仅是对手直接竞争，更可能通过革新内存架构，重塑AI芯片行业的成本与效率标准，引发市场格局变动。
为何推出推理芯片
当前，英伟达的GPU在训练大模型方面占据主导地位，但在模型训练完成后的日常推理阶段，即用户实际调用AI服务时，使用GPU的成本效益并非最优。
这一市场空白被谷歌的TPU和亚马逊的Trainium等专用芯片抓住，它们在处理AI查询时成本更低，对客户构成了吸引力。
为了巩固其在AI领域的全面优势，英伟达决定推出自家的推理芯片，直接参与这一细分市场的竞争，防止客户流失至竞争对手平台。
OpenAI的闭环合作
英伟达的这款新芯片尚未发布，但已经锁定了关键客户OpenAI。华尔街日报报道，OpenAI已承诺从英伟达购买大量“专用推理能力”。
值得注意的是，就在同一天，OpenAI宣布完成新一轮融资，总额达660亿美元，其中英伟达投资了30亿美元。
这笔投资与采购承诺形成了一种紧密的商业闭环：英伟达为OpenAI提供资金，OpenAI则用这笔资金购买英伟达的硬件，确保了新芯片初期的市场需求。
Groq技术核心
这款新芯片的背后，是英伟达去年底以20亿美元收购推理芯片公司Groq的重大布局。Groq的创始人曾是谷歌初代TPU的设计者之一，在推理芯片设计上经验丰富。
Groq最引人注目的技术路线是放弃了传统的HBM（高带宽内存），转而采用SRAM（静态随机存取存储器）。
与HBM作为独立芯片堆叠在GPU旁不同，SRAM被直接集成在芯片内部，理论上能显著降低延迟并减少对外部昂贵HBM的依赖。
成本与现实的权衡
尽管完全依赖SRAM的路线在理论上性能优越，但成本极高，大规模商业化的可行性受到质疑。多位分析指出，SRAM的晶圆面积大，单位比特成本远超HBM。
因此，市场普遍预测，英伟达的新推理芯片不会完全复制Groq的极端方案，而是会采取一种混合策略。
即提高芯片内部SRAM的比例，同时保留部分HBM，以在性能、成本和制造可行性之间找到最佳平衡点，从而实现对竞争对手的有效挑战。
英伟达推出专用推理芯片，是其捍卫AI霸权、应对成本挑战的关键一步。通过整合Groq的技术，新芯片有望在内存架构上实现突破，但能否真正撼动竞品的成本优势，仍需市场检验。AI芯片的战火，正从训练烧向推理，未来格局充满变数。
关键评论
有网友指出，英伟达投资OpenAI，OpenAI再采购其产品，这种“左脚踩右脚”的商业模式颇具玩味。
部分技术分析认为，完全用SRAM替代HBM成本过高，新芯片可能仍会采用HBM，只是比例调整。
有观点认为，无论技术如何迭代，芯片终究需要内存颗粒，这对内存行业是结构性利好。
