当前位置:
AIGC文章详情

GPU越用越贵,算力还要出期货:训练AI模型的人,“等降价”失效了

源自283位全网作者

08:25

按常识,电子硬件是越用越贬值的,显卡应该越放越便宜。但最近关注AI训练市场的人可能发现了,这条常识正在悄悄失效。

云服务商Lambda的联合创始人兼CTO Stephen Balaban在播客里说了句话:“我们2023年部署的那批H100芯片,如今出租价格甚至高于最初上线时”。知乎几乎同一时间,芝加哥商品交易所(CME)与数据服务商Silicon Data联合宣布,计划10月5日推出两项算力期货合约,分别追踪H100和B200的GPU每小时租赁成本指数——算力要像原油、铜一样被挂牌定价和对冲了。界面新闻

消费端的传导更直接:RTX 5090从2万元左右涨到3.5万元,DDR4 16G内存条一年涨了340%,从不足200元涨到近900元。钛媒体如果你正打算微调个模型、跑个小训练,或者在"租卡还是买卡"之间犹豫,这波变化跟你的钱包直接相关。

GPU越用越贵,算力还要出期货:训练AI模型的人,“等降价”失效了

为什么老卡反而租得更贵

不是简单的坐地起价,背后有三层逻辑。

第一,GPU算力不是标准商品。同型号、同数量的卡,放进不同系统里,产出的算力天差地别。大模型训练和推理都依赖多卡协同,互联带宽、网络拓扑、存储和调度软件,共同决定名义性能能兑现多少。这也是"超节点"火起来的原因:本质是把几十上百张卡用高速互联组织成一台大机器,让卡少等待、多干活。

第二,利用率决定成本。GPU闲着也在折旧,一张只有一半时间在真正计算的卡,每个有效小时摊到的折旧相当于翻倍。知乎租金涨,一部分是需求把利用率顶上去了,一部分是折旧要摊到更少的可用小时里。

第三,供给端确实紧。AI加速卡用的高带宽内存(HBM),2026年的产能基本被大厂预订完毕,消费级内存的投片量被压到历史低位——这是内存条、显卡这一波涨价的直接原因。钛媒体

但要提醒一句:涨价不是一条直线

很多人看新闻容易忽略一个细节:内存这一路是颠簸着涨上来的。3月底,市场上就出现过一轮集中的抛售和跳水讨论。微博到7月中旬,华强北现货价一度大跳水,16G DDR4从700多元跌到450元附近。微博一年维度看是涨了340%,短期维度看,现货市场其实已经回调过两次。

但GPU租赁市场没有跟着回落。华强北经营电脑组装生意20年的老板说得直白:“最近一年,钱都被内存厂、芯片厂赚去了,我们只是赚一点组装电脑的手工费”。微博涨价的红利留在上游产能端,而AI训练的需求还在全速进场。中信证券研报判断,存储供不应求将持续至2027年,涨价贯穿2026全年。钛媒体这个判断偏激进,未必兑现,但至少未来几个季度,指望算力租金大跳水不太现实。

现在的市场是两极分化:消费级内存一路跌、渠道库存堆成山,企业级HBM和服务器内存依然缺货,原厂八成产能都给了AI。微博也就是说,装机党可以等,训练党等不起。

GPU越用越贵,算力还要出期货:训练AI模型的人,“等降价”失效了

这种焦虑已经从机房溢出到桌面。小红书上有用户吐槽,家里的电脑和学校的电脑要共用一套内存条,“跟走私一样”。小红书还有更激进的,直接发帖问把房卖了换8盒内存条值不值得。小红书算力通胀不再只是新闻里的事。

算力金融化,对普通人意味着什么

你可能觉得期货是大机构的游戏,跟个人没关系。其实有两点直接相关。

一是信息差真实存在。据第一财经的分析,当前算力市场"一厂一价、一事一议",同型号H100 SXM5在不同服务商之间的定价差异可达3到6倍。第一财经海外四大算力指数对同一资产的报价,价差甚至能超过2美元每小时,涨跌方向都不一致。换句话说:租卡之前多花两个小时比价,同一趟训练真的可能省出几十个百分点。

二是波动会变成常态。有了期货,就意味着算力价格会像大宗商品一样跟着供需起落,"等半年肯定更便宜"的老经验失效了。连一向以低价著称的DeepSeek,8月中旬也把V4系列API价格大幅上调,部分时段涨幅最高达1100%。钛媒体有分析认为,这轮涨价与算力资源日益紧张直接相关,"价格屠夫"收刀,本身就是个信号。

那训练模型的人,预算怎么打

按预算分三档说,价格参考租卡平台的实时行情。

预算几百块(7B级LoRA微调、课设实验):按需租就够了,别囤。从平台行情看,RTX 4090 24GB大约2元/小时,84GB大显存的卡约5.4元/小时,跑一晚上LoRA也就几十块钱(文末附的行情截图可以对着看)。但注意踩坑点:数据放错盘、环境版本装乱、大数据上传中断、没做小规模试跑就直接上、终端断开、跑完忘记关机,都是第一次租卡最容易交的学费。小红书另外别只盯着小时单价:真实成本是"任务时长×单价",贵三成但快一倍跑完的卡其实更便宜。知乎

GPU越用越贵,算力还要出期货:训练AI模型的人,“等降价”失效了

预算几千块(多日的全量微调、中型训练):优先选稳定。任务中途挂了又没法断点续训,重跑一次的成本远超平台差价。检查点勤保存、存到独立存储,选有续训验证的平台。

想买卡的:没有明确的长期需求,别在现在的价位接飞刀。5090从2万涨到3.5万是算力紧缺挤出来的价格,不是常态价;涨价还会带着二手估值一起往上抬,没必要为焦虑买单。真要装机,往年那些能自由升级内存和硬盘的高端旧款,现在反而是性价比最高的选择。钛媒体

几个值得盯的信号

一是算力期货10月5日能否如期挂牌、上市后价格怎么走。界面新闻那是算力供需最透明的温度计,值得重点盯。

二是内存现货价。如果消费级内存持续回落、库存继续堆积,说明产能挤压在缓解,GPU租金才可能跟着松动。

三是国内智算平台的供给动作。上海"十五五"规划里已经明确,要引导传统数据中心向百卡级边缘智算中心转变,满足企业和个人的超低时延算力需求。界面新闻供给多起来,才是真正能把价格打下来的好消息。

一句话总结:算力"越来越便宜"的时代结束了,但你也不是只能挨打——多比价、按需租、别囤卡、不接飞刀。这个市场里,信息获取能力就是你的优惠券。

内容由AI生成

精选参考来源

1. 一台GPU用了三年,为什么租金反而更贵了?

2. 芝商所将推出算力期货,算力租赁行业景气或持续攀升,科创100ETF博时(588030)涨超2%

3. AI算力紧缺时代,大学生买不起电脑了

4. 涨了快一年的内存,7月终于扛不住了!华强北现货价大跳水:•16GDDR4:700+→450元,跌了3成•16GDDR5:1500→1000出头•1TB固态:1000+→880元但别高兴太早…虽然降了,相比去年还是涨了5倍!学生装机以前2000,现在4000起步,游戏主机直接1万起,堪称史上最贵暑假装机...全文

5. 【#内存条价格大跳水##内存降价原因找到了#】随着人工智能算力需求爆发,全球内存产能供不应求,相关产品价格一路走高,给消费电子产业带来不小影响。但从上周起,内存市场价格都出现了明显回落。广东深圳华强电子世界商户告诉记者,从上周三起,多款内存产品就出现了降价,目前16G内存价格从上周的90...全文

6. #内存条悄然降价#【#内存条悄然降价商户发声#:不敢囤积过多的货】7月17日,记者走访深圳华强北市场了解到,自去年下半年以来持续攀升的电脑硬件和内存价格近期出现松动。“最近一年,钱都被内存厂、芯片厂赚去了,我们只是赚一点组装电脑的手工费。”一位在华强北经营电脑组装生意20年的老板告诉记者...全文

7. 全球算力金融化加速,上海如何下好先手棋

8. DeepSeek涨价,“价格屠夫”梁文锋“收刀”

9. 鼠鼠第一次租服务器跑代码|小白版教程

10. 哪里租gpu云服务器便宜?

11. 没招了,内存条太贵了

12. 我把房卖了,换了8盒内存条,你们说值得吗?

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章