GPU 并行计算最憋屈的瞬间，不是代码报错，是 `nvidia-smi` 还没跑起来，租卡页面先给你一句“余量紧张”。4090 一块多一小时，A100 排队，H100 十几块——你以为是价格劝退，其实是便宜的那张卡根本不在货架上。
涨价的不是所有卡，是“立刻能用”的卡
海外云厂 Nebius 从今年 10 月 1 日起，把 H100 按需价从 3.85 美元/小时提到 4.50 美元，涨幅约 17%，H200 涨 20%、B200 涨近 19%、B300 涨约 21%。国内 8 月的一份公开行情表是另一种分层：4090 约 1.28～1.92 元/卡·时。微博知乎小红书
往上走，A100、A800、昇腾 910B 约 2～6 元，H20 约 7～8 元，H100 到 13.32～13.89 元。同样规格，不同园区报价能差两成。行情每天都在变，下单前以实时报价为准。4090 便宜，不等于好租：AI 绘图、视频生成、轻量推理都在抢这类 24GB 卡，便宜和好租，从来不是一回事。所以别问“哪家最便宜”，先问“哪张卡现在有货、刚好够你用”。小红书36氪
便宜卡抢不到，不是你的手速问题
供给追不上需求是底色。有行业文章援引中国信通院数据：2026 年一季度国内 AI 算力需求同比增长 417%，有效供给只增长 128%。落到租卡页面，就是热门型号长期“暂无空闲”。知乎
评论区更真实：有人说周内难租、周末卡多，有人早上 7 点去蹲，还有人写脚本自动抢。个体经验不代表全部，但至少说明热门卡不是随时想租就能租到。更扎心的是，有报价不等于有现货，最低价可能来自海外平台、竞价实例或长期套餐，真到下单，库存可能已经没了。所以第一原则：先小额试用，再充大钱，别被“1 块多”钓走。知乎
真正的成本，是卡在空转
很多人算租卡成本，只算“单价×小时”。错。你付的是卡的时间，不是有效计算的时间。
推理时，显存往往比算力先见底。vLLM 这类引擎为防止 OOM，启动就按比例预占显存，实例退出前不归还；监控上看卡已经满了，实际有相当一部分显存和算力在空转。知乎
还有一点常被忽略：多卡不是线性加速。卡间通信、数据加载、同步都会吃掉时间；租 8 张卡跑一个通信密集的任务，可能还不如把一张卡跑满。先小规模压测，再决定加不加卡。
一位宁夏算力业主算过账：利用率低于 70%，算力企业基本亏损；80% 以上才有薄利，90% 以上才像样。这是卖卡人的账，但租卡人同样适用——利用率上不去，你租的每一小时都在替闲置买单。36氪
下单前，先回答三个问题
第一，模型要多少显存？24GB 通常就够跑 7B～14B 量化和轻量 LoRA，别急着上 H100；70B 量化推理再看 48GB/80GB；大规模训练才轮到 A100、H100。知乎
第二，要跑多久？连续超过十天，包月通常比按小时便宜两到三成。知乎
第三，能不能接受中断？能，就优先抢占式实例，价格明显低，适合可重跑的任务。知乎
最后，把“有效小时成本”算出来：单价÷实际利用率，再把存储、流量、重跑算进去。一张 1 块多的 4090，如果一半时间在等数据，实际成本就是 2 块多；一张 13 块的 H100，如果能跑满，单位有效算力成本反而未必更高。会租的人，不是找到全网最低价，而是让卡在跑的时间里，真在干活。
