字节阿里腾讯350亿美元抢购英伟达显卡:AI开发者怎么跟上硬件迭代节奏?

源自193位全网作者

09:03

10月20日,路透社引述知情人士报道,字节跳动、阿里巴巴、腾讯三家合计订购了超过300万张英伟达新款RTX PRO 5500显卡,总标价超过350亿美元。先把口径理清:这是订单和标价,不是三家已经付出去的现金;他们抢的也不是撑起大模型训练的旗舰卡,而是面向专业工作站、符合出口管制要求的算力卡。对绝大多数AI开发者来说,这条新闻真正的信息量在于:当下硬件迭代节奏不取决于需求端,而是被英伟达的产能分配和出口政策同时锁死——开发者要跟上,靠的不是买到最新卡。知乎微博

350亿美元的订单,可能连一半都发不满

按每张约1.14万美元的报价,300万张对应的正是350亿美元级别的标价。但报道同时指出,中国客户对这款芯片的总需求已超过600万张,而英伟达2027年全球计划产量可能只有300万张左右,部分合作伙伴被告知最终只能拿到申请量的5%到10%。微博知乎

被疯抢的原因很现实:顶级的B300不能向中国出口,H200要逐单审批,训练大模型的顶级芯片通道收窄。而且这批卡主要用来做推理,不是训练大模型——行业竞争的重心已经从"谁的模型更聪明"转向"谁的使用成本更低"。有市场消息称,性能相近的上一代工作站卡去年还被大厂嫌贵、嫌性能平平,停产后国内价格明显上涨;给钱也不一定买得到,成了新的常态。微博知乎

一旦推理成为算力消费的主战场,成本工程就成了第一约束:一次回答省一分钱,十亿次调用就能省下上千万元,而很多任务根本用不着最顶级的芯片。知乎

硬件一年一代,产能永远先留给新架构

开发者感受到的"迭代快",在供给侧有明确的日程表。英伟达新一代Vera Rubin平台已开始向全球交付,联想10月披露了Vera Rubin NVL72机架级AI系统的规模落地。10月13日的OCP全球峰会上,英伟达还把下一代平台的服务器设计规范向外部厂商开放,意在把自身技术标准植入整个AI数据中心生态。知乎知乎

关键在于产能的排布:台积电先进制程产能有限,英伟达预计会把更多产能留给新一代Rubin,而不是给中国区合规卡无限量产。也就是说,中国开发者能批量拿到的卡,天然是"上一代性能档",而且当你的软件栈刚适配完,它可能已经停产、涨价、配额收紧。追着单一型号硬件跑,永远慢半拍。知乎

跟上节奏的路径,行业已经给出了范本

既然后面追不上,可行的做法是把"对硬件的依赖"沉到软件层。这个月接连发生的几件事,正好构成一份可以照做的清单。

9月30日,DeepSeek开源了面向华为昇腾平台的六件基础设施组件,从编译工具到计算库、通信库,并特意强调所有组件与此前面向英伟达平台的开源组件一一对应——同一套上层代码,两个硬件平台各配一层翻译。10月20日,它又把内部生产级推理框架DeepInfer全面开源,明确兼容英伟达和华为昇腾芯片,单集群日吞吐可达155万亿token,每卡每小时收入约38美元。对想自建服务的开发者来说,这等于直接拿到了大厂同款图纸,不用再猜生产级系统是怎么把卡跑满的。知乎36氪知乎

工程账本同样被摊开了。DeepSeek披露的线上服务数据显示,一次请求平均带着7.7万个token的输入,其中96%是之前算过、直接从缓存取的,不用重算。推理优化的最大红利不在换更贵的卡,而在复用已有的计算。当硬件选型和成本结构能被这类开源框架统一表达时,“卡换了"就不再等于"产品重做一遍”。知乎

大厂自己的动作也在印证这个方向:一边采购英伟达芯片解决燃眉之急,一边同步尝试国产算力替代,但换芯片从来不只是换硬件,背后的软件和模型都要重新适配,短时间内很难完全替代。留给普通开发者的现实做法是:新项目默认依赖有双平台适配层的开源推理框架和模型接口,把"换卡成本"当成架构评审的常规项,而不是等断供时再补课。知乎

数字背后还有多少不确定性

需要保留的边界不少。350亿美元是订单标价而非成交金额,报道本身来自路透社引述的匿名知情人士,交付端英伟达也已挑明:需求远超生产计划,无法保证全数交货。政策层面的摇摆还在继续,10月21日美国联邦公报刊登了针对DeepSeek的使用禁令,而它开源推理框架的动作与禁令几乎同步发生。开源框架也不是万能药,技术社区直接点破"你的卡可能跑不了"——版本、显存和芯片代际都有门槛,小团队照搬并不轻松。知乎知乎知乎

所以这350亿美元真正的启示是:硬件迭代节奏不由开发者决定,也不会等任何人。可跟上的从来不是某一张卡,而是适配的速度——用可移植的开源软件层对冲选型风险,用推理成本工程对冲涨价,用双平台兼容对冲断供。把这三件事做扎实,英伟达明年发什么、台积电产能给谁,就从"生死题"变成了"成本题"。

内容由AI生成

精选参考来源

1. 传字节阿里腾讯合计抛出超300万张RTXPRO5500

2. #英伟达# 英伟达拿到我国价值350亿美元的GPU订单,为合规出口款RTX Pro 5500!字节跳动、阿里巴巴和腾讯三家中国科技巨头已下订单,采购其新款符合出口管制要求的图形处理器。三家企业合计订购超过300万片RTX Pro 5500工作站图形卡。国内算力需求旺盛,RTX Pro 5500总需求超过600万片,单片价格约11400美元。这款芯片面向专业工作站,并非数据中心显卡,却是目前可以合规销向我国的性能最强芯片。基于Blackwell架构的B300数据中心芯片不允许对华出口,Hopper架构的H200则需要逐案审批。英伟达发言人表示,美国企业一方面受制于陈旧的美国出口管制(管制范围甚至覆盖数年前发布的游戏芯片),另一方面也面临中国对美国芯片进口的管控。

3. 据路透社爆料,字节、阿里、腾讯共向英伟达订了300多万块RTXPro5500,单块售价约1.14万美元,订单加起来超过350亿美元

4. 字节阿里腾讯,350亿美元抢购英伟达芯片

5. 联想集团全球交付英伟达VeraRubinNVL72,AI云超级工厂加速落地

6. 英伟达开放VeraRubin机架设计,AI数据中心标准之争提前打响

7. DeepSeek联手华为,能否击穿英伟达CUDA?

8. DeepSeek全面开源推理框架:兼容英伟达、华为昇腾芯片,单集群日吞吐155万亿Token,每卡每小时收入38美元

9. DeepSeekDeepInfer详解:把生产级推理引擎开源了,但你的卡可能跑不了

10. DeepSeek开源推理框架:代码只给了一半,账全摊开了

11. 禁令登上公报的同一天,DeepSeek把推理框架开源了

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章