什么值得买App下载 App ›
连续签到专享现金活动

1.25升的盒子跑大模型:机械革命大师之路X10实测会碰到哪些限制

11月19日,机械革命在杭州发布桌面AI主机“大师之路X10”,1.25升、1.42公斤的小盒子基于NVIDIA RTX Spark平台,最高128GB统一内存,64GB+1TB版32999元、128GB+2TB版49999元。宣传口径里它能在本地跑80B、120B参数级大模型,但真拿它做本地部署,卡住你的多半不是这个巴掌大的机箱,而是带宽、内存分配、系统和价格四道硬约束。IT之家雷科技

1.25升的盒子跑大模型:机械革命大师之路X10实测会碰到哪些限制

第一道墙是带宽,不是容量。 X10搭载的N1X超级芯片没有独立显存,CPU和GPU共用一块16通道、256位宽的LPDDR5X内存池,速率9400MT/s,稳定带宽273.2GB/s,容量最高128GB。这个带宽大致只有同CUDA核心数的桌面版RTX 5070的四成,容量却是后者的十倍上下——它的思路本来就是“带宽换容量”。代价是:稠密模型每生成一个token都要把全部权重搬运一遍,按这个带宽推算,70B级稠密模型的速度会掉到个位数tokens/s,基本不可用;宣传里的80B、120B跑得顺,靠的是MoE架构每个token只激活几B参数再叠加量化。装得下,和跑得快,是两件事。知乎

大模型在这台机器上是“能用”,不是“快”。 微型计算机用同规格的华硕ProArt GR1X跑168轮智能体回放、总输入超过200万token的测试,176B的Qwen3.8-Flash-Next量化版Prefill生成阶段的输出速度达到44.64 Token/s,端到端解码速度27.9 Token/s,平均首字延迟(TTFT)约2.49秒。整个任务跑完用了约18分钟,27B稠密模型解码约35 tokens/s更快,但模型体量小了一档。至于“接近云端旗舰”的说法——英伟达现场展示时称这个176B模型在Artificial Analysis智能指数得分40,只差云端Claude Sonnet 5.5 Medium一分,注意这同样来自厂商口径。知乎

统一内存要掰开分。 平台最多能把96GB划给GPU当显存,128GB版本默认划拨62.5GB。模型权重、KV Cache和系统全在同一个池子里抢:上下文越长、智能体并发越多,KV Cache吃得越狠。体验过64GB版本的博主实测,MiniMax H3音视频模型全套启用需要128GB,64GB的机器装不下,只能改用约42GB显存的ComfyUI压缩版。X10的应对是自研AI SSD,把模型权重从内存卸载到硬盘,官方称负载能力达到5.7倍、预填充环节最高加速95%。这仍是厂商口径,本质还是拿更慢的存储换更贵的内存。知乎知乎知乎

1.25升的盒子跑大模型:机械革命大师之路X10实测会碰到哪些限制

Windows on Arm是门槛。 这台机器跑的是Windows on Arm,英伟达承诺所有CUDA软件和Windows应用都能运行,但落到具体团队常用的专业软件、驱动和插件,尤其老版本行业软件,建议上机前先确认一遍。本地推理工具链的成色也有差距:llama.cpp生态成熟但优化有限,性能更强的vLLM、TensorFold都没有官方Windows版。评测人楠爷自行编译出ARM64版,才解锁了成倍提升的解码性能。知乎知乎

互联同样有取舍: RTX Spark桌面机去掉了DGX Spark右侧用于多机互联的ConnectX-7 200G网络接口,两台串联跑更大模型的路被堵死。128GB就是容量天花板;官方也把多人同时调用的推理服务列为不适合场景,建议走多卡工作站或GPU服务器。知乎

1.25升的盒子跑大模型:机械革命大师之路X10实测会碰到哪些限制

最后算价格的账。 同平台阵营里,联想YOGA Pro 15 RTX Spark笔记本的128GB加2TB版本42999元,华硕ProArt创16的128GB版首发到手39999元、国补后38499元。X10贵出的部分,买的是不用带屏幕、可以7×24常驻的桌面形态和140W满血释放。至于“Token自由”,英伟达的账是每月本地跑6100万token电费约20美元,而同样的量走云端API大约1200美元。但只算了电费、没算机器折旧,评论区“有这钱买API能用好几年”的质疑正是它的镜像。所以X10的限制清单其实很短:它适合数据不出门、跑MoE级模型、单人单机常驻的用户;需要稠密大模型、多人并发或者更大容量互联的,这台1.25升的小盒子解决不了。知乎知乎

评论

评论区空态插画

当前文章无评论,是时候发表评论了