10 月 29 日,奥特曼在 Cheeky Pint 播客里说了句让 DIY 圈子炸锅的话:全球有限的 DRAM 分散在每个人的电脑里,可能只有 5% 的时间在用,这相当糟糕。马斯克补刀"人民也该有自己的 RAM",还有开发者写了个恶搞脚本,只要你电脑空闲内存超过 10%,就每天自动发邮件向他汇报。知乎机器之心微博
热闹归热闹,账单是真的。TrendForce 旗下 DRAMeXchange 给过的数字是:2026 年一季度常规 DRAM 合约价环比上调 90% 到 95%,PC 用的 DRAM 价格预计至少翻倍。落到迷你主机上,铭凡 MS-S1 MAX 128GB 在 6 月的选购攻略里还标着 14899 元。而 AI Max+ 395 的 128GB 机型,媒体送测时还是 1.5 万上下,后来涨到两万、有些机型摸到 26000;英伟达 DGX Spark 则因内存紧张官宣从 3999 美元涨到 4699 美元,国内整机直奔 4 万。想在这轮涨价里买台小盒子在家跑大模型,得先把三件事分开算。知乎知乎知乎

一、内存容量是门槛题,不是快慢题
DeepSeek V4 Flash(284B)在 128GB 的锐龙 AI Max+ 395 上根本启动不了,权重太大装不下,这里没有“跑慢一点”这个选项。知乎
换到 192GB 的锐龙 AI Max+ PRO 495 就能跑了:铭凡官方实测,Q4 量化下 284B 约 15 Token/s,Q8 精度下 122B 约 27 Token/s。极摩客 EVO-X5 Pro 上,媒体实测同级别模型 14 token/s,评价是“能用但不算快”。B 站司波图则在这台机器上跑通了 Q4 的 DeepSeek V4 Flash(284B)和 320B 的 GLM-5.3-Flash。知乎知乎哔哩哔哩

档位很清楚:32GB 的 Mac mini M6 只能碰 32B 以下的小模型。128GB 装得下 120B 级的 gpt-oss-120b。想碰 280B 往上,192GB 是起步价。哔哩哔哩知乎
二、装下之后,加显存不会更快
这条最反直觉。知乎用户奇虎南夏自费买了台铭凡 MS-S1 Max,把 BIOS 里的 UMA 显存分配从 64GB 拉到 96GB,本以为 gpt-oss:120b 会跑得更快,结果热推理速度几乎一样,都是约 33 tok/s,差异不到 2%。他的结论很干脆:统一内存下没有“显存大了就快”的线性关系,只有“装得下”和“装不下”两个状态,跨过门槛之后,多切给显卡的空间对速度零贡献。知乎
真正卡速度的是带宽:395 是 256GB/s,495 拉到 273GB/s,只差 6.6%。所以 284B 只能跑十几 tok/s,是带宽的物理现实,和调优关系不大。知乎知乎
但引擎能改命。同一台 395 跑 Qwen3.8-27B,最开始用 Ollama 只有 10 tok/s,换成适配后的 llama.cpp 框架跑出 20 tok/s,同样机型还有人晒出 40 tok/s 的截图。想接近云端体感就认准 MoE 加投机解码:EVO-X5 Pro 跑 Qwen3.8 Flash Next,在特定引擎下百万 token 上下文仍能保持约 60 token/s。知乎哔哩哔哩
三、那两万块,买的是容量
铭凡 P495(192GB)的国行报价是 51999 元。同一颗 PRO 495,统一内存降到 128GB,价格就来到 29998 元——按这个算法,64GB 内存作价两万。知乎知乎
而上一代 PRO 395 的 128GB+2TB 还挂着,只少 64GB 内存,价格下降到了 25999 元。所以真正该问的不是“要不要上 192GB”,而是“你要跑的最大那个模型,量化后加上 KV cache 占多少 GB”。算不出这个数,就买 128GB。三条路线各买各的:知乎
AMD Halo 系买容量和性价比,用 DGX Spark 约一半甚至更低的价格换来同样的 128GB、只慢约 6% 的推理速度,整机功耗只有 120W。知乎
DGX Spark 买的是 CUDA 生态和高速互联,两台用一根 200G 线缆直连就能跑 405B 参数的模型。代价是 240W 的整机功耗。知乎
Mac 买的是带宽天花板,Mac Studio M5 Max 的 614GB/s 已经是 EVO-X5 Pro 的两倍多。再往上的 M5 Ultra 还能把内存带宽提升 50% 到 1.2TB/s,但 Mac Studio 要 480W,而且不可扩展。知乎

下单前先答三个问题
一、装不装得下。 权重大小之外,实际还需额外 20%—30% 的空间用于 KV Cache 和推理缓冲区,长上下文吃得比你想的凶。知乎
二、愿不愿意折腾引擎。 不愿意就选预装推理引擎的机型,比如极摩客 EVO-X5 Pro 预装的 Herdsman 牧马人,模型下载、启动、上下文配置、显存分配全在图形界面里点选完成。愿意折腾的话,同一台机器换个引擎,速度能差两倍以上。知乎
三、能忍多久首字等待。 小红书用户猛犸哥学AI 拿 128GB 的 395 跑 20 万 token 上下文,埋了个 8 位暗号让它找,4 次全找回来,一个字没错。但预填充大概 1325 tok/s,2.5 万 token 等了 17 秒,9.3 万等了 71 秒,20 万差不多要两分半——他自己的形容是盯着屏幕,跟等水烧开一样。他还踩了两个坑:BIOS 里显存和系统内存分错了会直接卡死,他自己卡过两次;模型也别直连海外源下,换成 ModelScope,94G 的权重半小时就拉完。小红书

至于奥特曼说的浪费?奇虎南夏放弃云 API 的理由更像答案:问题不在单价,在于每调一次都在计费,人会下意识地“省着用”,不敢让模型反复试、不敢开着 thinking 慢慢琢磨。这个心理门槛,比钱贵。知乎