今年科技圈最魔幻的东西,可能是一手掌握的小盒子。DGX Spark:128GB"统一显存"、CUDA生态、200G互联;更魔幻的是价格,有博主自费入手时3万6,如今售价已接近5万。网友送它一个外号:赛博金条。哔哩哔哩

但全网评论区吵得最凶的,是同一句话:这128GB,根本不是你理解的"显存"。
先讲并行计算的基本规律:生成token的速度,取决于"水管"(带宽),而不是"水箱"(容量)。旗舰独显如RTX 5090,显存带宽1.8TB/s量级;DGX Spark用的是LPDDR5x统一内存,官方带宽只有273GB/s。跑稠密模型时,每生成一个token都要把全部参数过一遍内存,128GB装得下、水管跟不上,有用户实测后锐评:最大的问题在于带宽太低了,相比原本5070ti直接砍半了,跑稠密模型慢到无法想象。有评论更损:“5070ti疯牛病版,并且带宽阉割到4060”——话糙理不糙:内存能装,水管太细。哔哩哔哩
英伟达自己也懂这个软肋:10月初发布了64GB版,今天 NVIDIA 正式发布了 DGX SPARK 64 GB,从规格上来说,它和之前 DGX SPARK 的区别只有内存容量的减半,其他规格都完全一样。它赌的是当下最火的MoE模型:每个token只激活部分专家参数,瓶颈从带宽回到容量,大内存这才真有用武之地——连"满血原模Day0桌面部署"这种话,厂商都敢直接写在宣传里。知乎界面新闻

体验的另一半在软件。同一位博主实测发现:同一个模型,换一套推理引擎,两台机器的成绩和结论竟然接连反转。这个品类的能力上限,至今仍由软件功底决定。哔哩哔哩
最"并行计算"的玩法是组网:每台机器自带两个200Gb/s网口。11月,英伟达宣布支持8台组成全互联集群,8 个节点的集群最多有 1TB 的统一内存,能够完整运行 GLM 5.3。为了不让集群退化成"大号单机",NVIDIA还专门开发了适配小消息、低并发的通信后端。知乎
但这个账得算清楚:单用户8K上下文下,解码只有约31 tokens/s,但要知道这个集群目前的价格 5万美元,所以现实情况下可能还是云端靠谱。知乎

另一头,RTX Spark已经被塞进笔记本,首批产品除了华硕外,还有微软(Surface)、联想、惠普、微星和戴尔共 6 个首发品牌。微软Surface Laptop Ultra入门款起售价为2599美元(约合人民币17425元)。微博智东西

评论区分成三派,旗帜鲜明:
刚需派:数据必须本地的、要做私有部署和微调的人。本地出字速度约是主流API的三分之一到三分之二,够用,但不惊艳。
劝退派:“这几万块买Token plan,够用到去世”。还有人晒出体验:社区大量抱怨机器一跑就过热降频,算力性能降低也就算了,关键是内存控制器一降频,可怜的共享内存带宽还会进一步衰减。哔哩哔哩
理财派:现在买就是赚,连5080都被网友说抬到了2万。
这场争论的本质,是显存容量焦虑一头撞上了带宽天花板。买之前想清楚:你的瓶颈到底是"装不下",还是"跑不动"?如果是后者,内存堆到128GB也没用。