张大妈

『官方20t/s』和『64G内存值两万六』都是真的:首批192GB迷你主机国行开售第3周,我把发布会、6个国行价格和10组速度口径摆进同一张表——掏5万买“300B门票”前,先对完三本账

源自26位全网作者

07:23

10月12日,磐镭YO2挂上了京东自营——搭载锐龙AI Max+ PRO 495的迷你工作站,又多了开售的一台。知乎

往前数:9月30日AMD开媒体沟通会,把自测数据摆上了桌,10月8日阿迈奇F9A国行首发49998元,AMD自己说这个平台"近期将有超过20款新品上市"。 评论区问"值不值"的帖子下面,有人回:去Reddit找r/LocalLLaMA,那边很多人讨论。但吵了几百楼,缺的从来不是观点,是把发布会脚注、6个国行价格和10组速度口径摆进同一张表的人。我摆完了。给双十一前正在"要不要冲5万"的装机党一句话:先对完容量、速度、门票这三本账,再决定掏不掏。知乎微博

第一本账:容量——“跑300B"是脚注话术,账要算到KV头上。AMD那句"全球首款以4bit量化本地运行超3000亿参数的x86客户端”,官方脚注写得比标题规矩:以4-bit量化运行超过3000亿参数。 把算术摊开:GLM 5.3 Flash按320B、4bit打包,权重就是约160GB——和官方设的VGM上限160GB严丝合缝,一个字节不剩;可KV缓存、系统、上下文全在同一条内存池里排队,192减160只剩32GB给剩下所有事。“最高20t/s"那组官方数据,上下文长度一律没公布。真机侧恰好有对照组:SnowLLM在上一代395(128GB)上把284B的DeepSeek-V4-Flash压到约2bit档,131K上下文还能给到20 tok/s;上一代395的128GB整机,海外评测的说法是"比如今单买128GB服务器内存还便宜”——容量给MoE让路,省下的每一GB都要记账。 所以192GB真正的容量红利不在"单模型撑门面":AMD高管Rahul Tikoo给这套机器讲的场景是同一时刻跑6到10个智能体,规划、调用工具、检索、核对各占一份权重和KV,并发吃内存远比单模型聊天狠。 容量为并发买,不为吹牛买。知乎哔哩哔哩知乎

第二本账:速度——官方"最高"、厂商自报、第三方引擎,三套数差出一倍。沟通会的自测口径先摆正:官方平台495+192GB、VGM设成160GB,跑GLM 5.3 Flash(320B参数、4bit量化)最高20 tokens/s,跑Qwen 3.8 Flash Next(125B主参数加51B嵌入)最高42 tokens/s,两组都没写上下文。 厂商侧,铭凡公布Q4量化跑284B约15 Token/s、Q8跑122B约27 Token/s。 另一家转述同一份铭凡数据写的是12——厂商口径都能差出20%,这就是为什么下面的表要带出处读。知乎知乎知乎

口径

模型/量化

上下文

速度

出处

AMD官方自测

GLM 5.3 Flash 320B 4bit

未公布

最高20 t/s

9/30沟通会

AMD官方自测

Qwen 3.8 Flash Next 125B+51B嵌入

未公布

最高42 t/s

同上

铭凡厂商

284B Q4

未公布

约15 t/s(另口径12)

AMPEXIUM

铭凡厂商

122B Q8

未公布

约27 t/s

同上

SnowLLM实测(395)

DeepSeek-V4-Flash 284B IQ2_XXS

131K

20 t/s

SnowLLM项目帖

SnowLLM实测(395)

Qwen3.8 Flash-Next 177B Q3

1K→225K

39→36 t/s

同上

公开测试参照

395稠密70B 4bit

—

约5 t/s

张叁疯梳理

带宽推算

稠密300B @273GB/s

—

约1–2 t/s(估算,待真机)

同上

表外四个要点。其一,能用的全是MoE,稠密300B是另一回事:395配128GB时稠密70B在4bit下只有约5 tok/s,按带宽外推稠密300B约1–2 tok/s——“能跑,但没法对话”。 其二,官方清一色"最高",上下文一律不写;拿自己的长文档去对,落点大概率比表里低。其三,软件是这台机器的暗坑:gfx1151核显没有为它写的框架,通用路线只喂到一半性能,SnowLLM手写内核后同机同模型比llama.cpp快2.4倍。知乎知乎

其四,带宽才是天花板:495把内存从128GB抬到192GB,带宽只从约256GB/s升到273GB/s、涨6.6%,隔壁苹果M4 Max 128GB配的是410到546GB/s。 而第三方对这套生态的口风已经很差:没CUDA,价格也没优势。知乎

国行机型

内存

价格

状态

铭凡 MS-S1 MAX-P495

192GB

51999(美国$7399)

已上架

阿迈奇 F9A

192GB+2TB

首发49998

已上市

极摩客 Evo-X5 Pro

192GB

约5万(海外$6799)

已发布

495 的 128GB 版

128GB

29998

在售

锐龙AI Max+395 128GB+2TB

128GB

25999(张叁疯另见20999档)

在售

HP ZBook Ultra G3a(495)

192GB

$7449

已公布

Surface Laptop Ultra(RTX Spark)

128GB

48388

已开售

第三本账:门票——5万块里一大半给了内存,回本要按用量、不是按情怀。先说涨价不是讲故事:2026年一季度常规DRAM合约价环比涨90%到95%,二季度再涨58%到63%,三季度预计还要涨13%到18%。 同一颗495,内存从192GB砍到128GB就敢差出两万多——64GB的差价,几乎全是内存账单。 上一代395的128GB+2TB还在售,只要25999,比P495直接砍半——新价签上最贵的那个零件,恰恰是这台机器唯一换不掉的板载焊死内存。知乎知乎知乎

单颗的账更直观:一颗12GB的LPDDR5X,成本从77.1美元涨到145.9、一个季度涨89%;192GB约16颗,芯片成本折下来就1.6万——你为容量付的每一块钱,都是在替AI服务器抢产能买单。知乎

回本账按用量算:月输出5000万token的重度用户,走DeepSeek V4 Pro按输出价一年约3700元;就算烧到GPT-5.6的单价,一年也是13万级别的账单。 用5万去对3700的账,十三年才回本,超过一台机器的寿命——这笔钱多出来买的是数据不出域、断网可跑、涉密合规,从来不是"省钱";惠普给车企产线做的声学质检、腾讯主打完全断网的财务法务助手,这些场景买得理直气壮,但他们的理由和"能跑300B"的广告,是两回事。极摩客Evo-X5 Pro那条帖子的结尾更直接:海外$6799、国行5万——“真是疯了……别买,没CUDA生态,还不如Apple M5 Ultra,价格也没一点优势”。知乎知乎

对完三本账,分人。该掏的:有数据合规硬需求的企业岗、真要把6到10个智能体并发吃满内存池的工作流、账单在GPT-5.6级别的重度用户。该等的:手里12–16G卡还没到顶的——“125B塞进12G卡"那本账你还没付完,5万门票不是你的下一站;以及所有在等三件事落地的人:SnowLLM们把400系列验过货(作者原话是其余型号"理论上也能运行,只是我们手上没有设备验证”)、AMD把上下文长度写进自测数据、双十一前后这堆5万价签会不会互相杀价。 该坐住的:只想为"300B"三个字付钱的——脚注里那个4bit,和你的内存池一样,装不下体面。接下来盯四个信号:495真机评测、引擎适配进度、官方带上下文的实测,以及连涨三个季度的内存合约价还会不会把20款新品的价签继续往上推。知乎

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章