V100裸卡从350涨到500多,连洋垃圾都被AI扫货了:垃圾佬的算力卡,哪些还能捡、哪些是坑

源自42位全网作者

07:00

涨价潮终于烧进了垃圾佬的垃圾桶。8月中旬,有观察称华强北商户显卡全面封仓,整体普涨三成到四成。哔哩哔哩同期内存条还在一天两变地跳价,大摩预警DDR4三季度还要再涨50%。哔哩哔哩英伟达的AI服务器都被曝明年提价至少15%,根源还是内存芯片成本飙升。微博

这些消息大家已经麻了,但有一件事很多人没注意到:这波AI需求的外溢,已经开始扫货垃圾佬的地盘。知乎上有网友在封仓话题下随口补了一句,V100裸卡之前都快干到350了,现在又500多。知乎还有位长期折腾V100/P100的垃圾佬在专栏里吐槽,本来想再买块P100的,居然涨价了!万恶的资本家,洋垃圾都不放过!知乎

涨得最凶的恰恰是曾经最「垃圾」的那批东西,这轮行情的结构值得垃圾佬认真看一眼。

V100裸卡从350涨到500多,连洋垃圾都被AI扫货了:垃圾佬的算力卡,哪些还能捡、哪些是坑

算力卡为什么突然成了香饽饽

逻辑不复杂:跑本地大模型,瓶颈不在算力而在显存——容量决定能不能装下模型,带宽决定吐字快不快。

现在消费级显卡的价格已经没法看:二手3090已经破万。哔哩哔哩而AI买家那边,新卡A100/H100受出口管制影响价格翻倍还难采购。知乎需求挤来挤去,最后挤到了退役数据中心算力卡头上——这批卡当年是论万卖的,现在按斤称。

被盯上最多的是V100 32G:HBM2显存,带宽高达900GB/s,甚至超过RTX 4080。知乎

价格变化最能说明问题:5月份闲鱼上,原版拆机卡还在3000元左右大量流出。知乎到了8月中旬,装机作者的口径已经变成「单卡32G不到5000,可能是最具性价比的LLM运行工具」,而它对比的是要卖8万的RTX 6000D。哔哩哔哩三个月涨六成,这就是AI需求给洋垃圾重新定价的速度。

海外还有玩家花170欧元淘了块V100 SXM2,加转接板塞进游戏PC,约1800元的总成本换来32GB可用显存,实测把Qwen3.6-27B量化版跑到约32 tokens/s,直接接进OpenCode当本地代码助手。知乎

V100裸卡从350涨到500多,连洋垃圾都被AI扫货了:垃圾佬的算力卡,哪些还能捡、哪些是坑

另一边,DeepSeek V4 API在8月提价,把不少重度用户往自建方向推。知乎OpenClaw「养龙虾」最近火得一塌糊涂,又把7×24小时挂agent的机器需求带了起来。哔哩哔哩有知乎用户晒出自己的主力机:两张V100 32G配196G DDR3内存,多并发能跑到1000+ tokens/s,「这套东西是前两年捡的垃圾,算是阴差阳错」。知乎

两年前捡的垃圾,现在成了别人加价都难买的东西——这大概就是垃圾佬的高光时刻。

分级捡漏指南:现在还有什么值得上车

先把结论说清楚:算力卡值得捡,但已经不是闭眼捡,得分卡看。

V100裸卡从350涨到500多,连洋垃圾都被AI扫货了:垃圾佬的算力卡,哪些还能捡、哪些是坑

  • V100 32G:主力,但窗口在收窄。 单卡能啃下27B~35B的量化模型,双卡NVLink可以上更大参数。5月还是3000出头的拆机价,8月已经逼近5000,三个月涨了六成。真要上车,这是当前相对「有性价比」的一张,但别再指望它回到去年的价格。

  • V100 16G:入门尝鲜。 PCIe版省事,SXM2版便宜但要配转接板。预算紧、只想跑20B以内模型的,可以从这里进。

  • P100 16G:中小模型还能打,别追高。 有垃圾佬拿它跑新一代27B稠密模型,结论是「力不从心咯,性价比止步于此」。知乎 Pascal架构面对新模型已经吃力,而且它自己也在涨价,现在入手属于接情绪的盘。

  • P40 24G:便宜大碗,玩具属性。 显存是真大,但没有Tensor Core,吃纯量化。B站有实测结论很直接,白菜价双卡P40,跑大模型不如单V100。哔哩哔哩三百五百买来当个实验品可以,当主力就算了。

还要提醒一句隐性成本:平台也在涨。组这些卡多半要配X99、EPYC这类老平台加RECC内存,而内存涨价是会传染的——8月下旬D4 8G×2套条已经卖到660元左右。知乎有装机答主感慨,曾经5000元的配置,如今预算近乎翻倍。知乎算总账,别只盯着卡价。

雷区清单:上车前必须知道的事

V100裸卡从350涨到500多,连洋垃圾都被AI扫货了:垃圾佬的算力卡,哪些还能捡、哪些是坑

算力卡是服务器里拆出来的,它默认你有机房,没有就自己造:

  1. 散热是第一道坎。 全是被动散热设计,有改装案例里V100原装风扇噪音高达82dB,堪比割草机,3D打印风道加风扇是标配。知乎

  2. 没有显示输出。 得靠CPU核显或者再插一张亮机卡。

  3. 供电别插错。 250W~300W的功耗,部分卡要转接供电,电源余量要留足——有玩家显卡满载时12V直接跌到11V,只能再换电源。知乎

  4. SXM2转接板没有保障。 非官方件,供电和稳定性没有任何保证,有人热重启后卡直接不识别,必须冷启动才能恢复。知乎

  5. 老架构在被生态抛弃。 P40/P100这一代吃不到FP8/FP4这些新量化红利,框架支持也会慢慢往后排。

  6. 「原版拆机」只是话术。 二手算力卡没有质保,默认按最坏成色出价。

反过来说:大多数人其实不用买卡

泼一盆垃圾佬最不爱听的冷水:算一算token账。本地部署的隐藏成本是卡价+平台+散热改造+电费+折腾时间。而API端,哪怕DeepSeek V4刚涨完价,轻度使用的账单也远没有想象中吓人,有测算称几十块就能玩,重度才要按几千计。哔哩哔哩

重度用户更要算细账。有B站评论区用户晒过自己的用量:一天两亿token的输入,真正计费的输出也就五十多万。哔哩哔哩如果你不是这种强度,买三四千的卡自建,回本周期可能以年计。

真正适合自建的只有三种人:重度用户,agent要7×24小时挂着跑;有隐私和内网要求,数据不能出本地;以及纯折腾党——对最后这类人来说,跑得快不快不重要,把垃圾点亮本身就是目的。

判断与值得盯的信号

给个粗暴的分层判断:

  • 刚需重度+预算有限:V100 32G是当前少数还没被完全买穿的选项,按「用一年回本」的标准算账再下手;

  • 轻度尝鲜:老老实实付API,把捡来的钱留着等行情退潮;

  • 纯垃圾佬:P100/P40的价格已经被情绪抬起来了,这时候追,就是在替别人的成本买单。

接下来值得盯的信号:华强北什么时候开仓、闲鱼拆机V100的库存消化速度、新一代开源模型的显存胃口,以及AI资本开支的边际变化——这轮算力卡的重定价,本质是AI需求的影子,影子散了,价格也会回去。

垃圾佬的精神从来是捡「还是垃圾」的东西,而不是追「已经不是垃圾」的东西。这波AI扫货里,真正的本事不是抢得快,是看得清哪些热闹轮不到我们。

内容由AI生成

精选参考来源

1. 8.16硬件价格(显卡全线大涨,整体普涨 30%-40%)

2. 大摩预警DDR4内存将在第三季度飙升50%|显卡日报8月20日

3. 【#英伟达大客户被曝收涨价通知#】据彭博社近日报道,受内存芯片成本飙升影响,搭载英伟达AI芯片的部分服务器价格明年可能将提价至少15%。英伟达的一些大客户已接到通知,不过英伟达公司尚未对这一报道发表评论。#英伟达被曝明年涨价#据彭博社援引知情人士的话报道称,英伟达此次涨价可能将适用于明年年初发货的服务器系统,其中包括搭载旗舰级Vera Rubin和Grace Blackwell芯片的机型,涨价幅度将取决于英伟达芯片的代际以及存储配置。知情人士还透露,微软、谷歌、甲骨文等大型数据中心运营商最近已收到涨价通知。据悉,AI服务器依赖大量高性能内存芯片,目前全球高端内存产能高度集中在三星电子、SK海力士和美光科技三家公司,尽管它们已经在扩产,但产能供给仍难以跟上AI数据中心建设的爆发式需求。根据美国投行摩根大通本月发布的最新研究报告,AI数据中心需求激增正导致全球内存芯片供应短缺,预计从2024年初到2026年底,内存芯片的涨价幅度将超过400%。(jl)央视财经的微博视频

4. 华强北商户确认显卡全面封仓,价格大涨约 30%,封仓可能持续多久?价格还会上涨吗?

5. 2080TI 终于来到新低,V100,啥时候变牛夫人

6. v100跑Qwen3.8 27B千问nvfp4 速度超50tokens大约pro6000d一半的速度,在目前显卡大涨价环境下可能最具性价比的ai运行显卡了。

7. 捡漏王炸|2017 年 Tesla V100 服务器整机

8. 1800元穷玩LLM:2017年老将Tesla V100改装后本地运行27B参数模型

9. 咸鱼大量流出原版拆机AI主机专用 V100 32G显卡,AI算力开山鼻祖,支持nvlink多卡互联,缺陷也极为明显!

10. DeepSeek V4 大幅涨价后,现在谁才是你心中的大模型性价比之选?

11. OpenClaw养龙虾,到底要花多少钱?

12. DeepSeek V4 大幅涨价后,现在谁才是你心中的大模型性价比之选?

13. 白菜价双卡 p40 ,跑大模型不如单V100?

14. 如何看待 26 年 7 月DDR5内存价格再次暴涨,出现「一天两变、提货被拒、商家劝退用户」的怪象?

15. 为什么近期CPU、内存、硬盘涨价特别厉害,是什么原因引起这么高的涨幅?

16. 关于我这个半桶水,折腾特斯拉tesla V100这件事情

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章