这一年装机群里多了条新的焦虑链：24G显存都没有，聊什么"本地跑大模型"。
前面半句，真有人花钱去信了。9月5日，一张成色极品的微星3090超龙挂在二手平台上，个人自用卡、测试无问题，“8700不包邮”。B站装机猿的直播间里，观众直接问出了那个灵魂问题：3090Ti现在就是5070的价格，哪个好？小红书哔哩哔哩
涨价的尺度也离谱。追踪数据显示，8月7日到9月19日的六周里，美国eBay上有成交记录的55款二手显卡整体上涨5.7%，是全部88个追踪品类里涨幅最大的，旗舰卡里RTX 5080从1099美元涨到1400美元，连3070都涨了20%。线下更邪门，西安电脑城商家接受采访说，二手显卡市场部分旧卡价格不降反升，甚至出现"用了两年几乎还能原价回收"的情况，RTX 5050柜台价都摸到了8200元。小红书微博
接盘的理由听起来无懈可击：AI要来了，显存是稀缺资源，二手24G大显存卡先抢了不后悔。
但硬件市场涨价要按季度走，模型那边是按周迭代的。9月的两条进展，悄悄把"必须大显存"的叙事拆了。
第一条：量化把27B塞进了11.8G。 ISTA（奥地利科学技术研究所）放出的Qwen3.8-27B非均匀量化版，用GSQ和RCO两种技术给每个张量单独定制量化精度：3.50bpw的IQ3_S版只有11.8GB，按发布方的基准测试，AIME25和LiveCodeBench v6与基础模型完全一致——三比特出头做到任务无损。再狠一点的IQ2_XS版本，只有8.4GB。要知道两个月前，社区里还是另一个共识：24G跑27B稠密模型其实捉襟见肘，Q4量化就得19GB左右，还要在显存里放MTP和KV缓存，跑不了太大的上下文。同样的卡，换个量化方案，从"勉强塞下"变成"装得下还有余量"，中间隔的不是钱包，是一次量化技术的更新。知乎知乎
第二条：MoE在把"能跑"的门槛整体搬离显存。 电信团队刚放出的Xing4.0-29B-A4B，是30B级别的MoE模型，总量不小、每个token真正要算的参数却少得多，这已经是国产开源的新主线。知乎
更极端的例子：有人用一台i5-12600KF、32GB DDR5内存、配一张只有8GB显存的RTX 3060 Ti的普通台式机，靠三级存储流式引擎把裁剪后仍有78.87GB权重的150B剪枝模型跑了起来——稠密基座常驻内存，七十多GB的专家权重放在NVMe里按需流式读取、算完即丢，因为MoE每个token通常只激活4到6个专家，根本不需要全部权重同时进显存。先把丑话说前面：这类方案解决的是"跑得起来"，不是"快"，谁拿它向你推销"家里跑1500亿"的体验，直接跳过。知乎
于是问题来了：给"本地大模型"准备的装机单，到底该按什么买？拿新卡和二手卡照一遍镜子——京东官方旗舰店，华硕TUF 5060 Ti 16G现在3019元；二手3090挂牌八千往上。如果你的场景是文本对话、写作辅助、代码辅助，量化27B这档，16G新卡够用，还附赠保修、原生FP8加速和正常的待机功耗——3090并不原生支持FP8计算，FP8原生加速要4090（Ada）往后的卡才有，3090跑FP8模型只能权重存着、算的时候转回FP16，显存省了，速度红利吃不到。多花五千块进二手市场买"多出8G的安心"，大概率是让那8G在显存里吃灰。知乎
分三种人算，别互相接盘：
纯文本、想入坑的：一分钱新硬件都不用先花。 手上8G/16G的机器，用Ollama或LM Studio跑一个14B或量化27B，半小时就能开整。先记录出字速度和什么时候爆内存，再谈要不要升级——多数人测完会发现，瓶颈是耐心，不是显卡。
确定要长上下文或高精度的：24G+真的有用，但别急着接这波。 整库代码、几百页合同这类需求，量化再省也省不掉KV缓存，大显存是真门槛——有人用双RTX 3090配Qwen3.8-27B，实测把上下文稳定跑满了524K，显存占用37G还留11G余量。但看看账：两张3090光卡就近一万七，还要1000W以上的电源、四条槽布局的主板，多卡方案的电源、机箱、散热和主板PCIe通道都得一起规划。何况这批二手旗舰大多矿场出身、无保、不带FP8。这是"跑得好"的预算，不是"跑起来"的门票，值不值取决于你每天真开几次那个524K的窗口。知乎知乎
跑图片视频生成（ComfyUI、Wan）或者要微调的：24G起步，你们才是这波涨价真买单的人。 生图生视频的显存占用是实打实的精度换质量，跟量化省不出来。纯聊天党没必要替这个圈层去抬卡价。
这轮涨价潮里，内存、固态、显卡已经轮着涨了一遍，现在轮到回收老卡当"AI门票"了。能确定的只有一条：该买的是配得上11.8G量化方案的卡，不是配"19G焦虑"叙事的卡——后者随着llama.cpp每合入一个新量化格式就贬值一次，前者3019元放旗舰店，保修三年。
接下来盯三个信号就够了：5060 Ti 16G有没有跌破2900（它9天前的30天低价是2919）；二手3090挂牌什么时候跌回8000以下——跌破当天，"二手大显存更划算"就彻底说不出口了；以及DDR5价格什么时候把32G套条从四千的高位放下来，内存党先别为"MoE要64G起步"的说法囤条。量化生态往前跑的速度，永远比二手贩子的报价单快。
