9月中旬这几天,打算把大模型搬回家的人,心情大概坐了趟过山车。
8月17日,DeepSeek给API挂出峰谷价,忙时输出冲到9元/百万token,是7月31日上线时统一价的两倍半还多。知乎
9月10日V4.1 Flash上线当天重新定价,闲时输出回到4元,缓存命中的输入价砍到每百万token两分钱,官方口径是降了六成。 但把三张价目表并排一对就会发现:涨上去两块五,退回来五毛——输入端退得干净,输出端纹丝不动。知乎
紧接着9月15日凌晨,DeepSeek崩了,知乎相关话题当场被顶热。 经济日报9月9日刊文说得更直白:这轮涨价从高端GPU、存储芯片一路烧到云端推理,头部云厂商相关服务最高涨幅超三成,业内判断还要持续一年以上。知乎知乎
云端这条路又贵又不稳,"自己买卡"就成了新的集体动作。而B站、小红书、闲鱼三条战线几乎同时报出同一个信号:"穷人本地AI"的行情,正在被这波焦虑直接掀翻。
一个月内换了三张价签:"神卡"是怎么被推上去的
先看这轮行情的两位主角。
第一位,2080Ti 22G魔改卡。就是那张2018年的旗舰,被深圳师傅们把11G显存物理翻倍成22G——352-bit位宽换颗粒、刷改版BIOS,官方保修当然也就没有了。它的黄金卖点是"能装下一张27B级别模型的全部家当":一张22G,单并发跑量化版Qwen3.8-27B够用;两张44G,能把长上下文开到别人不敢想的位置。
它的价格时间线,恰好被评论区用户自发记录成了K线图。8月初,有装机党在B站晒出的配置单里,两张22G合计4000元,整机连i3 9100、Z370、16G内存、1000W白金电源一起落地。哔哩哔哩
然后价签开始翻脸:8月27日双卡涨到5500,9月上旬5200元入手、外加150元的NVLink桥,中旬行情已经"5600左右、两张奔6000去了"。 一个半月,双卡涨出一张魔改卡的钱。哔哩哔哩
捡漏也早就是过去式了,因为"现在想捡漏2080ti基本捡不到了,资源基本也是那几个闲鱼卡佬手里,deepseek api涨价之后一下就资源紧张了"。哔哩哔哩
第二位,数据中心退役卡V100。2017年的训练卡,16G/32G HBM2,显存带宽900GB/s,是2080Ti GDDR6的1.5倍——而纯文本推理的解码速度恰恰吃带宽,所以vLLM圈子里它至今能打。价格却像另一个世界的产物:有买家晒出的成交价只有四五百一张。 更早的退役潮里,16G的Tesla P100曾被砍到三百元档;"百元级AI神卡"这种标题,在B站能做出1200+收藏的视频。哔哩哔哩哔哩哔哩
于是社区自然分裂成两个阵营:一边是收藏三千七的"双卡V100 32G低价高能碾压2080Ti 22G"大测评。 一边是六月发出、至今还在被转的"V100绝对不要买,惊天骗局已有很多小白大呼上当"。 两边都没说谎,只是各自只说了自己那半。哔哩哔哩哔哩哔哩
路线一:消费级魔改卡,能修、能玩、能开机,但账要摊开看
2080Ti 22G这条线,赢在"它是张正常显卡":有显示输出、能打游戏、能跑ComfyUI,翻车了还能修——有买家公开分享"温度过热显存脱焊,寄回去一天就修好寄回来了",这在BGA封装的数据中心卡那边根本不存在。 魔改卡从2023年改到现在,师傅的手艺和闲鱼上几近新卡的货源,构成了它的地基。哔哩哔哩
但涨价后闲鱼店保单卡2100-2200元、双卡5600元的价签,买之前得把评论区攒出来的坑单读一遍。哔哩哔哩
供电坑:这张卡满载260W起步,被改装师傅拉到300W的也不稀奇。双卡用户被电源卖家专门提醒:带两张22G要用4根显卡线分摊电流,否则单根线材大电流大概率烧坏模组接口。 整机加上X99或旧平台,电源建议直接奔1000W白金——而这还是闲鱼价。哔哩哔哩
散热与噪音坑:涡轮版体积友好,但一句"满载80分贝吧!果断放弃"就劝退了纠结双卡间距的玩家。 三风扇版对老主板又太挤。哔哩哔哩
稳定性抽奖:有买家实测"瞬时高负载下报pmu固件halt,只能微调ubatch让他不要冲的这么猛"。 魔改批次之间差异极大,店保条款就是命。哔哩哔哩
NVLink玄学:这张卡支持NVLink桥,但双卡用户的实测是"我就是官方的框架,nvlink加和不加,对推理影响并没有想象中那么大",多花150元买桥、待机功耗和发热倒是都上去了。别为它加价。哔哩哔哩
至于速度,先把话说明白:同一个模型,双卡44G用户报"vllm单发不开mtp单发速度在45t/s,llama.cpp大约35吧,加上mtp就60多"。哔哩哔哩
也有人泼冷水,实测"vllm最多就双并发了,速度30多t/s"。 而小红书同时流传着"单流极限200tk/s"的优化战绩和"输出速度约80Token/s、应该是性价比最高的本地推理机"的晒单。 这些数字大概率都"真",区别全在量化档位、框架魔改程度和并发设定上。看任何一张卡的性能宣传,先问对方跑的什么量化、开没开投机解码、几个并发——问不出这三个问题的,数字直接当广告处理。哔哩哔哩小红书小红书
路线二:300-500块的V100,一半是神卡,一半是"脸"
V100这边,价格屠夫的姿态是真的:一张四五百元的16G HBM2卡,带宽是2080Ti的1.5倍,vLLM跑文本模型至今够用;有人拿它跑ComfyUI出图,MiniMax H3工作流的V100专用整合包9月中旬刚发布;"腾讯4张32G V100的服务器月租两万,你自己买4张卡都要不了两万"的段子也在流传。哔哩哔哩
但"绝对不要买"那期视频评论区里,每一条劝退都具体到能对着检查:
它没有显示输出。你必须有核显或加亮机卡。一位玩家的连锁反应是从5700X换成5700G,就为了给V100腾出显示通路,“双卡的话很可能放不下,这是我血的教训”。 通道同样要命:魔改散热的大显卡会挡住PCIe槽,V100被迫插x4,“载入速度大打折扣”。哔哩哔哩
软件生态进入倒计时。Volta架构的计算能力只有7.0,已被CUDA 13及以上版本移出支持——“意思就是这显卡其实以后都不会提供更新了,30系好歹还一直有更新”。 新卡的计算能力已经报到12.0,那句评论区金话说得扎心:“老黄预判了垃圾佬的预判”。 这意味着你买的是张进入日落期的卡。哔哩哔哩哔哩哔哩
HBM和核心锁死在一起,显存挂了卡就废。退役卡"不知道运算了多久,显存到点了寄了的概率相当大……稳定性这块真的不好说,纯看脸"。 2080Ti显存脱焊能修,V100不行。哔哩哔哩
预期管理。“随便玩玩就是神卡,问题是总有小白买了多张16G的V100要在ComfyUI玩多卡,还要做AI短剧”。 出视频这种活,多张老卡不如一张新卡。哔哩哔哩
两条路线都绕不过的三道坎
把两条线放在一起看,这轮"穷人方案"热潮里真正值得花时间的,是下面三道坎。
第一道,显存账:你的模型到底吃多大? 27B级别量化模型,22G单卡是当下闲鱼行情的"够用甜点";真正逼人造双卡44G的,是长上下文和多人并发——小红书的双卡实测里,256K prompt needle命中PASS,Decode 80.55 tok/s。 如果你只是单人流畅聊天+写作辅助,双卡那两千多块里有相当一部分买的是幻觉。反过来,想本地跑MiniMax H3这类生成模型的,先看清框架支持不支持你的卡组合——已有双卡44G用户撞墙:“玩MiniMax h3又因为框架问题不能双卡加速,挺鸡肋的”。小红书哔哩哔哩
第二道,兼容账:买卡先买生态。 2080Ti的Turing架构不支持BF16,vLLM上"MTP不要开,架构太老了";V100直接被CUDA新版本移出支持列表。两条路线都是在倒计时里用:软件栈每前进一代,你的卡就被动一次。我不敢给"还能战几年"的判断,但有一个反证信号值得记住——2023年那批最早改的22G卡,到今天社区还在问"还稳定吗"。老架构+魔改BIOS的组合,寿命问题没有标准答案。
第三道,电表账:本地部署从来不是为了省钱。 把账摊开:假设双卡机器平均负载40%(满载500W+的平台按400W折算),一天约9.6度电,按0.6元/度、一年电费2100元上下。而API侧闲时输出4元/百万token,个人日均10-20万token的输出量,一个月24-48元,一年六百以内。自己造机跑满负荷的一年电费就够API用十年,硬件本身那5600元更是十几年都回不了本。知乎
所以"API涨价逼我买卡"在纯省钱逻辑下是不成立的。本地部署真正买到的是另外三样:数据不出门、不限流不宕机(9月15日那次崩,用本地卡的人毫无感觉)、以及想怎么微调就怎么微调的完全控制权。这三样对你值不值5600元,才是这篇内容唯一该做的判断。
谁适合上这班车,谁该再等等
想省钱跑API替代的个人用户:别追高。闲时API+本地免费小模型混合,比一张溢价魔改卡划算得多。
想入门27B级本地部署、兼着打游戏出图的学生/上班族:单张店保2080Ti 22G(2100-2200元)是这轮里相对合理的上车价,重点验店保条款和维修记录,别碰无保裸卡。
需要双卡44G长上下文的开发者:认清"6000元双卡+千元电源+电费"是设备采购不是省钱。有玩家自我安慰"这套配置,双卡2080ti至少还能让我苟两年"——问题是下一班车是不是已经涨价了。
想捡V100/P100便宜的算力卡玩家:只推荐给已有核显平台、只跑文本推理、接受"显存挂了即报废"的老手;驱动圈点名553.74版本比新版稳,重启不掉驱动,噪音和亮机卡问题都要提前查。哔哩哔哩
冲着MiniMax H3视频生成来的:这轮先别动,框架对多卡和老架构的支持是当前最大变量。
继续盯四个信号就够了:2080Ti双卡价能不能站上6000并稳住(站不上,说明是DeepSeek宕机带来的情绪单);DeepSeek下一轮调价会不会把输出价真正打回2元时代;CUDA对Volta/Turing的兼容到哪一版为止;以及闲鱼卡贩子的货源什么时候"铺货烂大街"——那就是这班车关门的时候。
这轮行情的本质,是云端算力涨价把一整批本地化需求硬挤进了二手市场,而二手市场的供给端恰恰是历史上最薄的部分——魔改卡没有产能,只有师傅的手。垃圾佬的经典信条这次得反过来用:以前是"我不买,因为我穷",现在是"我不买,因为我是接盘的"。抽屉里有旧卡、机位里有空槽、明确要离线干活的人,这班车能上;只是被"涨价"两个字追着跑的,先让它飞一会儿。