10月20日,路透社引述知情人士报道,字节跳动、阿里巴巴、腾讯三家合计订购了超过300万张英伟达新款RTX PRO 5500显卡,总标价超过350亿美元。先把口径理清:这是订单和标价,不是三家已经付出去的现金;他们抢的也不是撑起大模型训练的旗舰卡,而是面向专业工作站、符合出口管制要求的算力卡。对绝大多数AI开发者来说,这条新闻真正的信息量在于:当下硬件迭代节奏不取决于需求端,而是被英伟达的产能分配和出口政策同时锁死——开发者要跟上,靠的不是买到最新卡。知乎微博
350亿美元的订单,可能连一半都发不满
按每张约1.14万美元的报价,300万张对应的正是350亿美元级别的标价。但报道同时指出,中国客户对这款芯片的总需求已超过600万张,而英伟达2027年全球计划产量可能只有300万张左右,部分合作伙伴被告知最终只能拿到申请量的5%到10%。微博知乎
被疯抢的原因很现实:顶级的B300不能向中国出口,H200要逐单审批,训练大模型的顶级芯片通道收窄。而且这批卡主要用来做推理,不是训练大模型——行业竞争的重心已经从"谁的模型更聪明"转向"谁的使用成本更低"。有市场消息称,性能相近的上一代工作站卡去年还被大厂嫌贵、嫌性能平平,停产后国内价格明显上涨;给钱也不一定买得到,成了新的常态。微博知乎
一旦推理成为算力消费的主战场,成本工程就成了第一约束:一次回答省一分钱,十亿次调用就能省下上千万元,而很多任务根本用不着最顶级的芯片。知乎
硬件一年一代,产能永远先留给新架构
开发者感受到的"迭代快",在供给侧有明确的日程表。英伟达新一代Vera Rubin平台已开始向全球交付,联想10月披露了Vera Rubin NVL72机架级AI系统的规模落地。10月13日的OCP全球峰会上,英伟达还把下一代平台的服务器设计规范向外部厂商开放,意在把自身技术标准植入整个AI数据中心生态。知乎知乎
关键在于产能的排布:台积电先进制程产能有限,英伟达预计会把更多产能留给新一代Rubin,而不是给中国区合规卡无限量产。也就是说,中国开发者能批量拿到的卡,天然是"上一代性能档",而且当你的软件栈刚适配完,它可能已经停产、涨价、配额收紧。追着单一型号硬件跑,永远慢半拍。知乎
跟上节奏的路径,行业已经给出了范本
既然后面追不上,可行的做法是把"对硬件的依赖"沉到软件层。这个月接连发生的几件事,正好构成一份可以照做的清单。
9月30日,DeepSeek开源了面向华为昇腾平台的六件基础设施组件,从编译工具到计算库、通信库,并特意强调所有组件与此前面向英伟达平台的开源组件一一对应——同一套上层代码,两个硬件平台各配一层翻译。10月20日,它又把内部生产级推理框架DeepInfer全面开源,明确兼容英伟达和华为昇腾芯片,单集群日吞吐可达155万亿token,每卡每小时收入约38美元。对想自建服务的开发者来说,这等于直接拿到了大厂同款图纸,不用再猜生产级系统是怎么把卡跑满的。知乎36氪知乎
工程账本同样被摊开了。DeepSeek披露的线上服务数据显示,一次请求平均带着7.7万个token的输入,其中96%是之前算过、直接从缓存取的,不用重算。推理优化的最大红利不在换更贵的卡,而在复用已有的计算。当硬件选型和成本结构能被这类开源框架统一表达时,“卡换了"就不再等于"产品重做一遍”。知乎
大厂自己的动作也在印证这个方向:一边采购英伟达芯片解决燃眉之急,一边同步尝试国产算力替代,但换芯片从来不只是换硬件,背后的软件和模型都要重新适配,短时间内很难完全替代。留给普通开发者的现实做法是:新项目默认依赖有双平台适配层的开源推理框架和模型接口,把"换卡成本"当成架构评审的常规项,而不是等断供时再补课。知乎
数字背后还有多少不确定性
需要保留的边界不少。350亿美元是订单标价而非成交金额,报道本身来自路透社引述的匿名知情人士,交付端英伟达也已挑明:需求远超生产计划,无法保证全数交货。政策层面的摇摆还在继续,10月21日美国联邦公报刊登了针对DeepSeek的使用禁令,而它开源推理框架的动作与禁令几乎同步发生。开源框架也不是万能药,技术社区直接点破"你的卡可能跑不了"——版本、显存和芯片代际都有门槛,小团队照搬并不轻松。知乎知乎知乎
所以这350亿美元真正的启示是:硬件迭代节奏不由开发者决定,也不会等任何人。可跟上的从来不是某一张卡,而是适配的速度——用可移植的开源软件层对冲选型风险,用推理成本工程对冲涨价,用双平台兼容对冲断供。把这三件事做扎实,英伟达明年发什么、台积电产能给谁,就从"生死题"变成了"成本题"。