192GB 显存塞进一台工作站,本地跑大模型的门槛又低了

2026-09-10 14:42:50 0点赞 0收藏 0评论

System76 这家美国 Linux 整机厂,9 月 9 日推了台叫 Thelio Mira AI 的工作站,一句话概括,它把本地跑大模型的门槛往下压了一截。这台机器走的是专业路线,面向开发者和实验室,不是消费级产品。

192GB 显存塞进一台工作站,本地跑大模型的门槛又低了

先说它最唬人的地方,显存。顶配能塞两张英伟达 RTX PRO 6000 Blackwell,每张 96GB ECC 显存,两张合计 192GB。这个数字对跑大模型的人来说意味着什么,得有个参照。现在消费级桌面旗舰显卡,显存天花板是 32GB,两张 RTX PRO 加起来是它的六倍,还带纠错。大模型权重动辄几十上百 GB,消费卡一张塞不下、两张又没桥,这种双 96GB 的配置,恰好能本地装下完整的大模型做推理和微调。代价也很直接,光这两张卡的升级费用,就得加 37239 美元。

CPU 这块反而很克制。Thelio Mira AI 配的是 AMD Ryzen 9000 系,9700X、9900X、9950X 三选,明确说了不用线程撕裂者,目的就是把功耗预算省下来让给 GPU 计算。内存最高 192GB DDR5,四根 48GB,存储官方口径最高 28TB。双 PCIe 5.0 x16 走 x8/x8 多卡,5GbE 网口、Wi-Fi 7,双电源可选。起价 3299 美元,约合 23753 元,这个起步价只给 Ryzen 7 9700X、一张 A400、64GB 内存和 1TB 固态,顶到满血配置,价格直接往四万美元级别去了。

背后的账值得算一算。System76 自己把卖点写在脸上了,本地 AI 工作负载,对比云服务的成本。跑大模型微调,云上按 GPU 小时计费,一张 H100 级别的卡一小时就是几美元,长期跑下来一个月轻松上万。这台工作站一次性投入,适合那些数据不能出自己机房、又需要常年挂在本地训练的团队,计算机视觉、仿真、量化金融、国防、科研,基本就是这类需求。

但也要把丑话说在前面。双 RTX PRO 6000 的 37239 美元一加,这台机器就不是给个人玩家攒的了,它的对手是戴尔、惠普那批专业工作站,以及更上面的机架服务器。对普通用户,唯一能借鉴的结论是,显存才是当下 AI 硬件的硬通货,谁先把大显存做便宜,谁就能决定本地大模型这波能普及到哪一步。

作者提示含AI生成内容。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松