昨晚刷B站,一台AI迷你主机的实测视频评论区,点赞最高的几条都不是聊性能:
「3年后小黄鱼见。」181个赞。哔哩哔哩
「预感在不久的将来,借着ai的光,会有大批的廉价好物上咸鱼。」178个赞。哔哩哔哩
视频里的机器,是搭载AMD锐龙AI Max+ 395、配128GB统一内存的极摩客EVO-X3,本地能跑DeepSeek-V4,是现在少数能把超大模型塞进书本大小机箱的方案。评论区报的价格:21699元。还有一条评论,赞不算多但扎心:「去年395加国补只要1万1,我还嫌贵。」
从1.1万到2.1万,这就是一台机器在这一轮配件涨价潮里的轨迹。而最纠结的,恰恰是电脑DIY圈里最心动的一批人:想玩本地大模型、有隐私需求、不想永远给token交租,本来就是这类硬件最对口的买家。
今天就把账算清楚:这波涨价里,本地AI这条坑,普通玩家到底该怎么入。
先看行情:这波涨价,已经涨到AI硬件头上了
内存、固态在涨,大家都知道,但AI硬件这边的涨幅,很多人没概念:
内存:一根16G的DDR5,去年三四百块,现在同规格普遍一千出头,热门型号已经冲破两千
固态:1TB接近翻倍,逼近千元大关
显卡:英伟达已经向授权显卡厂商发出新一轮涨价通知,华强北一度「全面封仓」;AMD的Radeon 7月起上调10%;原本2599-3199元的5060,仅显存成本一项就被推高约560元
更小众的:英伟达个人AI工作站DGX Spark,创世版从3999美元官宣涨到4699美元,国内整机从「3万出头」直奔4万;395迷你主机整机,从媒体评测期的1.5万上下涨到2万,部分机型到2.6万

根源是同一个:AI数据中心在抢产能。HBM的利润远高于普通内存,晶圆产能被上游抽走,消费级跟着水涨船高。知乎上一个高关注回答说得直白:涨得最凶的是企业级存储,普通人装机只是「多花两三百」,不必恐慌囤货。知乎但另一个信号没法忽视:SK集团崔泰源公开警告,2027年大概率是存储芯片供应缺口最大的一年。
也就是说,短期内别指望大降价。社区里的信号也很分裂:有人说华强北价格已经松动,也有消息说三星还要再涨20%。知乎我的判断是:零售内存条的泡沫最大,整机这类成品传导慢一些——但只要存储不跌,整机价格就没有下跌的基础。
花钱之前:先算算你现在的电脑能跑什么
在聊路线之前,先泼一盆冷水。这两天知乎上有位做AI产品的作者写了篇避坑帖,开头就很直接:本地模型是「备胎」,不是「正选」,大部分场景云端就是首选。知乎真正需要本地的只有四种人:隐私敏感、数据不能出本机的;需要离线干活的;想玩「去护栏」版本的;以及追求完全可控输出的。四条都不沾,最省钱的路是买云端会员,不是买硬件。
沾了任何一条,也别急着下单,先用现有设备算一笔账。社区里有个简化的换算公式(Q4量化口径):
能跑的最大参数量 ≈(可用显存 − 3GB)÷ 0.6
8G显存:约5B,能跑,别期待太多
16G显存:约13B,日常问答、翻译、写周报够用
24G显存:约35B,已经能跑得比较体面
48G统一内存的Mac(约33G可划给显存):约51B
再送一条社区铁律:同样的显存,压缩过的大模型胜过不压缩的小模型——14B压到Q4掉的智力,远小于7B和14B之间的智力差距。量化档位就认Q4_K_M,公认的甜点。
然后是很多人忽略的一个数:带宽决定速度。每生成一个token,都要把整个模型权重读一遍。知乎395的内存带宽是256GB/s,有人实测跑Qwen3.6-27B,12 token/秒——这不是厂商调校问题,是除法算出来的物理结果。所以本地大模型永远是「一个字一个字往外蹦」,接受不了这个速度,买什么硬件都会失望。
三条路线,三笔账
路线一:零成本入门——先用现有电脑跑起来
按上面的公式,你现在的电脑能跑13B以上,就一分钱都别花。装个Ollama或者LM Studio,跑Qwen3-30B-A3B这类MoE模型(总参数30B、每次只激活3B,对显存特别友好),或者干脆跑个更小的稠密模型,强迫自己用满两个星期。
两周后还在天天用,再谈买硬件的事。那篇避坑帖说得狠:先买设备再培养习惯,是99%小白浪费钱的开始。知乎这笔账,0元投入,0元后悔成本,是所有人该走的第一步。
路线二:AI统一内存迷你主机——395这条线
这是当下讨论度最高的路线。128GB统一内存,最多划96GB给显存:跑27B-35B的稠密模型,上下文能放得很宽裕;塞235B的Q4量化也能跑,实测8-9 token/秒。8月初vllm对395的支持也开始真正可用,生态短板在一块块补。知乎

适合三类人:有隐私硬需求的开发者、想把本地模型接进自己工作流的人、以及算过token账单后确认长期用的人。
账目:2万-2.6万,比去年明显贵了一截。12 token/秒的速度,写代码、改文案、跑Agent够用,急性子会觉得磨人;ROCm生态仍然不如CUDA,很多玩法在Linux下更顺。还有个硬边界:这路线只能推理,做不了训练——想做LoRA微调的,别看这条线。
评论区那句「3年后小黄鱼见」,冲的主要就是这条路线:贵,且不是人人刚需,二手供给注定少不了。不介意二手的人,蹲一波小黄鱼反而可能是入场点——这是目前我唯一支持的「等等党」逻辑。
路线三:硬核算力——DIY英伟达多卡,或者DGX Spark
要微调、要训练、要多机集群,方向只有一个:英伟达。
DIY多卡本来就是装机党的主场,但现在的问题是行情——显卡封仓涨价,连一台纯白5070游戏主机都要奔着万元去,大显存算力卡的溢价只会更高,现在DIY等于顶着涨价税装机。微博

DGX Spark是「官方答案」:GB10芯片,128GB统一内存能给模型分出约112GB,比395多出16GB——跑200B级模型拉长上下文时,这就是塞得进和塞不进的区别;CUDA全栈、能做LoRA微调、自带ConnectX-7 200GbE网卡(这块网卡市场价就过万),两台直连能跑405B模型。知乎

账目:公司出钱、或者真做训练,这钱有明确回报;只是想「玩玩大模型」,4万块买的是个很贵的玩具。
路线四:评论区点赞最高的路线——硬件钱,拿去买token
原话是:「这个价格我能用很久API了。」用量不大的话,这是实话——两万多块的token额度,对轻中度用户够用好几年,而且云端模型的能力上限本来就比本地高。只有当你的用量又高、又密、还涉及隐私时,硬件路线才开始算得过账。
真要在现在买,三个提醒
别顶着峰值买整机。成品内存的涨价泡沫最大,整机价格是跟着存储走的。刚需可以蹲促销窗口,非刚需可以把「小黄鱼二手395整机批量出现」列入观察清单。
别指望本地生视频。24G顶级显卡生成5秒720p视频要算约9分钟,还要抽卡;以生图生视频为主要目的的,云端服务更快更好。
盯两个信号再决定加不加仓:一是存储价格曲线——华强北报价、三星海力士的涨价动作、以及「2027年缺口最大」这个判断会不会被产能修正;二是vllm、ROCm对Strix Halo的支持进度,这决定395这条路线的天花板。
最后说两句
这波涨价,对电脑DIY党其实是个分水岭:一部分人继续等显卡内存回到原价,另一部分人把折腾劲搬去「给自己攒一点AI算力」。没有对错,只有适不适合。
本地AI不是所有人的主菜,但对隐私、离线、无护栏有硬需求的人来说,它是唯一的路。唯一的忠告是:涨价潮里,冲动消费会被账本惩罚。先算账,再花钱。
你玩本地大模型走的哪条路线?评论区聊聊你的配置和账单。