这两天刷本地AI相关的帖子,会发现一个很拧巴的现象:一边是硬件在涨价,一边是门槛在跳水。把这两条线放在一起看,"现在要不要入坑、怎么花钱"这个问题,反而比半年前更值得认真算一次。
这个月撞在一起的两件事
先说涨价这条线。8月初知乎一个百万阅读热帖确认了渠道显卡全面封仓、价格大涨约30%。知乎到8月13日,"电脑平板手机集体涨价"冲上微博热搜,多家媒体的说法一致:多数套装涨价千元起步,部分高配产品涨幅近五成,源头还是从存储涨价一路传导下来的。微博热帖评论区还留下了一句最真实的注脚:本来计划3060-12G换5060ti 16G,不换了。知乎
再说降价这条线——不是价格降,是门槛降。8月初MiniMax把视频生成模型H3开源了,权重可以直接下载,社区实测本地跑起来的门槛大概在8G显存这个量级,有人压到5-6G也能出片。知乎同一时间,Meta新的开源智能体模型、各家新一代量化小模型也扎堆出现。9B的千问量化版只有5-6GB大小,这件事放在两年前是不可想象的。

一边是硬件变贵,一边是"跑起来"需要的硬件变便宜。两件事撞在2026年8月,入坑的决策逻辑其实变了。
选卡第一标准:装不装得下,比新不新更重要
先给还没上手的值友补一个30秒背景:本地跑大模型,显卡第一指标不是算力,是显存。模型权重、KV Cache、激活余量都要往显存里塞,显存不够就溢出到内存,速度断崖式下跌。

这也是最近社区讨论里反复出现的共识。知乎上有人拿5060 Ti 16G和V100 32G对比跑27B模型,结论很直接:对于本地大模型推理来说,模型能否完整装入显存,往往比显卡架构本身更重要。知乎B站显卡讨论区的评论区更朴素:目前低预算就买5060ti 16g,低于这个没多大意思了。哔哩哔哩
所以这张账表,先按显存分档,再看别的:
预算量级 | 代表方案 | 能干什么 | 干不了什么 |
|---|---|---|---|
0元(现成老电脑) | 16G内存+CPU推理 | 0.8B-3B小模型,体验流程、跑通工具链 | 正经AI辅助工作 |
3500元档 | RTX 5060 Ti 16G | 流畅跑9B,日常问答、写作、代码助手 | 27B以上硬跑会溢出 |
5000-8000元档 | 5070 Ti 16G / 二手大显存老卡组合 | 9B更快,或摸到27B-35B的MoE量化版 | 72B |
4万元档 | RTX 5090 32G | 舒服跑27B,兼AI绘图等任务 | 流畅72B仍需多卡/专业卡 |
已有Mac | 大内存M系(M5代输出速度明显改善) | 装得下大模型,体验向 | 输出速度仍不如显存带宽 |
两个细节提醒:一是别买8G显存版,8G跑9B已经在边缘,多开点东西就崩,5060 Ti的8G和16G差价约500元,这是整机里最值的一笔;二是同一张5060 Ti 16G,有人实测换了内存带宽更高的平台,跑溢出显存的27B模型性能差了164%——模型一旦装不下,瓶颈就从显卡转移到你的内存上,"对于超过显存容量的大模型而言,平台的重要性并不亚于显卡"这句实测结论就是这么来的。知乎

进阶玩家还有野路子:N卡+AMD计算卡(比如MI50 32G)异构搭配,用便宜的大显存老卡扛decode,图里这种个人PC异构拓扑在折腾党里已经不算新鲜。但这条路调试成本高,只适合享受过程的人,不适合要结果的人。
两条看着便宜、实则带坑的路
涨价值得等,坑不值得踩。
魔改卡(2080Ti改22G、3080改20G)在评论区呼声很高,本质是预算受限下的无奈选择:无官方保修、可能是矿卡翻新、脱焊掉驱动都是真实风险,你买到的卡可能已经在矿机里服役了几年。知乎A卡同理,显存大价格香,但ROCm生态跟不上CUDA,新模型首发经常用不了,报错搜不到答案,被社区形容成"高显低能"。至于DGX Spark,128GB统一内存听着猛,内存带宽只有273GB/s,跑27B输出约13 token/s,还只支持Linux——它是研究工具,不是家用机。
所以现在到底买不买?
我的判断分三类:
已经持有16G及以上显存卡的:别动。你的卡正处于近两年最保值的状态,把升级预算换成加内存、换大固态,收益更实在。开源模型只会对你的卡越来越友好。
现有8G/12G卡、想升级的:可以等。当前是封仓涨价后的价格,不是好价格;而模型端还在变轻,等半年大概率不吃亏。唯一例外是需求明确且紧迫——比如做AI漫剧、短视频需要本地出片赚钱,那就按5060 Ti 16G这条争议最小的入门线买。
从零装机的:别把预算堆在CPU上,中端U足够,优先保16G显存+32G内存+1TB NVMe固态,剩下的钱留给电源和散热。8000-10000元的入门配置,跑9B模型已经相当流畅,这是知乎那篇700多赞配置指南给出的实在话。知乎
接下来值得盯三个信号:华强北封仓是否松动(重点看5060 Ti 16G、5070 Ti的实际成交价);存储涨价传导是否继续(内存价格决定溢出推理的成本);新开源模型的显存门槛实测(如果8G跑视频模型成为常态,入门线还会再降)。
最后提个醒:最近B站满屏"本地部署才是真神、吊打付费"的标题,相当一部分终点是卖整合包。本地AI值得玩,但它不是"永久免费吊打云端"——模型能力、折腾时间、电费都是成本。先小预算跑通,想清楚拿它干嘛,再决定加不加钱,是这条路上最不后悔的顺序。