什么值得买App下载 App ›
连续签到专享现金活动

20美元跑6100万token?RTX Spark这笔账得倒着算

20美元跑6100万token?RTX Spark这笔账得倒着算

11月18日晚上10点,B站十几条视频同时上线,标题清一色是"Token自由"。京东同一晚开售,官方微博还挂着转赞评抽E卡。微博

RTX Spark 桌面主机正式上市了。华硕、机械革命、微星三家首发,一升出头的机身,20核 Grace CPU 配 6144 个 CUDA 核心的 Blackwell GPU,最高 128GB 统一内存,FP4 算力 1 Petaflop,官方口径是"最高支持本地运行1200亿参数大模型",3.3万元起。微博知乎微博

20美元跑6100万token?RTX Spark这笔账得倒着算

NVIDIA 还在活动现场算了一笔账,值得每个心动的人记住:本地跑 Qwen3.8-Flash-Next(176B),这台机器每月产出 6100 万 token,电费约 20 美元;同样的量走云端 API,约 1200 美元。顺带给了个智能水平参照——该模型在 Artificial Analysis 智能指数上得 40 分,云端付费的 Claude Sonnet 5.5 Medium 是 41 分。知乎

六十倍的差价,谁不心动。

但这笔账得倒着算

6100万 ÷ 30天 ÷ 86400秒 ≈ 23.5 tok/s。

翻译一下:这台机器要一分钟不歇、以每秒二十多个字的速度连吐一整月,才用得完 6100 万 token。按 140W 的 TDP 估算,720 小时约 100.8 度电,20 美元对应约 0.2 美元一度。知乎

比例没问题,1:60 是真的。但那个绝对值只属于一种人:真把它当服务器、7×24 常驻跑任务的人。

你自己一个月用多少?每天认真聊一小时,按 30 tok/s 算,一天约 10.8 万 token,一个月 324 万——是 6100 万的 5%。同样的量按官方那个折算走云端,约 64 美元。3.3 万的硬件靠这笔差价回本,要六年出头。

所以别问"能不能回本",先答一句:我现在每个月给云端交多少钱? 拿硬件价除以它,就是回本月数(本地电费一个月几十块,先忽略)。月账单 500 元,66 个月;2000 元,17 个月;5000 元,7 个月。

128GB里,GPU最多只能拿96GB

第二个容易踩的口径:128GB 是统一内存,不等于 128GB 显存。

在 RTX Spark 上,划给 GPU 多少内存得在 NVIDIA App 里手动调,128GB 版本最低 4GB、默认 62.5GB、最高 96GB,改完还要重启才生效。开箱默认状态下,你手上那块"显存"是 62.5GB。知乎

20美元跑6100万token?RTX Spark这笔账得倒着算

这也是为什么 176B 的 Qwen3.8-Flash-Next 得靠 IQ4_XS 这种深度量化才装得下。把显存拉到 96GB 后,AgentPerf Local 那套 168 轮、超 200 万输入 token 的智能体回放实测跑通了:端到端解码 27.9 tok/s,平均首字延迟 2.49 秒。能跑完,但离"飞快"有距离。知乎

同一台机器,7.34 和 84.28

第三个数最该看。还是那台华硕 ProArt GR1X,显存 96GB,LM Studio:

  • Qwen3.6-35B-A3B(MoE,激活 3B),Q4 量化:84.28 tok/s

  • DeepSeek-R1-Distill-Llama-70B(稠密),Q3 量化:7.34 tok/s

同一台机器,差十一倍。知乎

"最高支持120B"是真的,塞得进去也是真的。但塞进去之后每秒吐几个字,取决于你跑的是哪一类模型。下单前先想清楚:你日常要跑的,是 MoE 还是稠密。微博

再给一个锚点:铭凡 T5 MAX-388(AMD Ryzen AI Max+ 388,48GB 内存)官方给的实测是 Qwen3.6-35B 跑到 57.68 tok/s。48GB 的机器跑 35B 能到这个数,说明"128GB"并不是唯一解。哔哩哔哩

ARM + Windows 这道坎

第四件事,首发视频里最容易被跳过。

RTX Spark 是 ARM 架构跑 Windows 11。Adobe 原生版、Blender 5.3 的 DLSS 光线重建、LM Studio 的 CUDA 支持,都是最近才陆续跟上;NVIDIA 讲开发者能力时,强调的是"通过 WSL 提供 Linux 开发工具"。实际跑分也大多在 Linux 环境里出。知乎

B站 UP 主"AI实测室"自费买了台 ProArt P14(同款 N1X 芯片、128GB),在 WSL2 里跑 Qwen3.8-27B 的原版 BF16 权重:裸速 5.3 tok/s,接上 SpecPilot 投机解码后才到 46.8 tok/s。哔哩哔哩

知乎"如何评价 NVIDIA RTX Spark"这个问题有 51 万播放,最高赞的回答一句话概括:“集所有『统一内存AI电脑』缺陷于一身的究极大作”,矛头对着 arm64 Win11 的兼容性和内存带宽(华硕标注的峰值是 300 GB/s)。桌面版有 140W 散热,比笔记本宽松得多,但生态这道坎是一样的。知乎知乎

三家怎么选,谁该买

机型

64GB 版

128GB 版

机械革命 大师之路X10

32999元(+1TB)

48499元(+2TB,另有报道称49999元)

微星 Edge Mesa N AI+

33999元(+1TB)

56999元(+4TB)

华硕 ProArt GR1X

34999元(+2TB)

54999元(+4TB)

20美元跑6100万token?RTX Spark这笔账得倒着算

B站"科技健圣"的说法是,三家都基于 NVIDIA 公版设计,性能体验层面几乎相同,差别在起价、外观和品牌。宏碁、戴尔、技嘉、惠普的机型,以及微软 Surface RTX Spark Dev Box 随后推出。哔哩哔哩知乎

回到该不该买。NVIDIA 给这条线定的调子是"Always On Intelligence"——一台摆在桌角、7×24 不下线的本地智能体主机:万兆网口、一升出头机身、常驻跑定时任务、素材不出域。你要的如果是这个,它的价值成立,那笔电费账也确实划算。你只是想偶尔问几句、写点东西,3.3 万买不来"随时想用就用"的轻松。知乎

最后一个小提醒:看首批评测,优先找写清了测试条件的(量化档位、显存分配、后端引擎、是不是在 WSL 里跑的)。结论句写得越漂亮,越要往下翻三层。

评论

评论区空态插画

当前文章无评论,是时候发表评论了