实测JetBrains Junie Local在RTX Spark上的55词元吞吐:写代码真能提速吗?

源自155位全网作者

17:24

55词元/秒只是“生成速度”的天花板,换算不成“写代码快了多少”。 对多文件重构、补测试、升依赖这类机械任务,本地化是真提速,因为词元成本归零;对复杂架构推理,瓶颈在模型质量,不在这个吞吐数字。10月16日RTX Spark笔记本全球开售当天,JetBrains宣布旗下本地AI编程工具Junie Local已Day 0适配该平台,Windows支持从实验阶段升级为稳定版。 官方同时给这个数字加了两个限定:测试是“初步”的,55是“最高可达”。IT之家

这个55词元/秒是怎么来的

Junie Local做的事很简单:AI编程智能体完全跑在你的机器上,读代码、改文件、跑测试,官方把“无需注册或订阅、不收取词元费用、不设使用配额、代码不必上传云端”写进了公告。IT之家

硬件门槛也不锁死在RTX Spark:至少24GB显存、Ampere或更新架构的RTX显卡电脑都能跑,包括RTX 3090、4090及32GB显存的5090,需要Windows 11、581及以上驱动和约20GB磁盘,安装程序会按可用GPU内存自动调整上下文容量——内存越大,AI留得住的代码和对话记录越多。 模型可选Qwen3.6-27B或JetBrains提供的融合模型。IT之家

承载它的RTX Spark N1X,把至高20核Grace CPU、6144 CUDA核心的Blackwell GPU、最高128GB统一内存和1PFLOPS的FP4算力装进了一颗超级芯片,首批笔记本来自华硕、戴尔、联想、微软和微星,联想YOGA Pro 15当晚全渠道开售、29999元起。知乎科技快报网

峰值和日常吐词速度不是一回事

第三方实测提示了“峰值”与“持续”的落差。媒体在华硕ProArt创16(64GB统一内存版)上手实测,AA-AgentPerf Local智能体基准使用Qwen3.8-27B本地模型跑完耗时25分09秒,吐词速度23Tokens/s,表现与DGX Spark相当。芯东西

换到更侧重速度的SPEED-Bench,11类任务平均输入处理速度208.59 tokens/s,平均输出生成速度31.01 tokens/s。 这两组跑的是启用推理的Qwen3.8-27B,与Junie Local选用的禁用推理的Qwen3.6-27B不是同一配置,数字不能直接换算,但它们共同说明:同一台机器上,真实智能体负载的持续吐词低于任何“最高可达”。芯东西

连JetBrains自己都劝:别只盯词元速度

反直觉的是,把“别追生成速度”讲得最重的恰恰是JetBrains自己:“对于典型的智能体编程任务,只关注生成 t/s 并不是正确的做法”,这是其技术博客的原话。微信公众号

编码智能体的时间大头花在读取文件、梳理上下文的“预填充”阶段,独立GPU上这一阶段可以非常快。 对照初代仅支持64GB内存M5 Mac、要靠给M5神经网络加速器补8位算术优化才换来约40%预填充提速,RTX Spark的算力余量等于把预填充从瓶颈位上挪走——这时,生成数字才第一次变得“可晒”。微信公众号

这个55还有另一半来源:本地模型被完全禁用推理(禁用后需生成的token数减少2到3倍、任务速度约翻倍),加上MTP草稿模型与n-gram推测解码组合,生成速度最多再提升到原来的2倍。 换句话说,55词元/秒买的是“不假思索的快”,代价是把深度思考关在了门外。微信公众号

“与云端持平”带着前提

JetBrains用自家私有测试集评估过Qwen3.6-27B:得分与Sonnet 4.5(推理上限10,000 token)不相上下,中等推理强度的GPT-5略高,而对比的另一侧是启用推理的云端模型。微信公众号

官方也没回避边界:“在日常工作中,您很可能察觉不到这种差距。但在复杂的架构推理任务中,您一定会感受到差异”。微信公众号

提速的真正来源是成本归零

JetBrains列过一组过去“不值得花点数”的任务:多文件重构和重命名、被搁置的测试覆盖率、依赖升级与框架迁移、快速接手陌生仓库——“如果多进行一次迭代是免费的,对于那些平时您绝不会消耗点数去做的工作,现在也值得交给智能体来处理了”。 硬件侧,英伟达算过一笔账:RTX Spark全天候跑Qwen3.8-Flash-Next,每月约生成6100万个Token、电费约20美元;同样量走Claude Sonnet 5.5 Medium的API,月支出约1200美元。 这笔估算对应的是另一档模型,不能与Junie Local等价替换,但它标出了本地与云端词元成本的量级差——吞吐不限量之后,省下的从来不是单价,而是“要不要花这笔”的犹豫。微信公众号芯东西

谁现在就值得跑,谁再等等

提速成立是有条件的。笔记本形态持续高负载最好插电——实测显示性能模式下高负载运行AI评测,电量从90%到10%只用了1小时22分,不插电并不适合长时间高强度开发;主打全天候智能体的桌面版要到11月才上市。 价格争议也同步发酵,开售首日“RTX Spark实测性能不及M5 Pro且贵2200美元”的对比讨论已经登上知乎热榜——通用性能与本地智能体吞吐本就不是同一把尺子,但2万元级起步的门槛意味着这笔账要按各自的活来算。芯东西知乎

所以,手里有24GB以上显存的显卡或RTX Spark设备、日常被“不值得花点数”的机械任务堆满的人,这次Day 0适配是真提速——提速的来源不是每秒多吐了多少词元,而是用智能体的门槛被清零;需要复杂架构推理的人,本地方案目前仍是补充,不是替代。词元速度回答“快不快”,零成本回答“值不值得跑”,JetBrains在RTX Spark上把两个问题各自给了一半答案。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章