本地大模型怎么选？三类AI工作站实测对比，从千元迷你主机到十万级多卡方案全解析
06-21 10:03
精选参考来源
精选参考来源
1. 锐龙AI Max+ 395太强了！阿迈奇M1A PRO+迷你AI工作站评测
今日头条 2026-02-04 00:00:00
2. 本地部署大模型的AI硬件推荐
微信公众号 2026-05-29 00:00:00
3. AI硬件选购指南：显卡、NPU与AI工作站对比
百度 2026-05-13 00:00:00
4. 128GB内存塞进迷你机 本地AI工作站重构行业规则
今日头条 2026-04-18 00:00:00
5. 【17000美元，10块显卡塞进一个机箱：一位极客的本地AI工作站实践】 当云端算力唾手可得，为什么还有人执着于在家里堆砌显卡？Reddit用户SweetHomeAbalama0给出了一个答案：一台塞进8块3090和2块5090、总显存768GB的“移动”AI工作站。 这台机器的诞生源于一个实际需求：为一位平面设计师提供本地运行超大MoE模型的能力，同时支持长视频生成和高质量图像创作。约束条件很有意思：必须可移动，必须封闭。后者的原因让人会心一笑：家里有好几只猫。 核心配置包括Threadripper Pro 3995WX处理器、512GB DDR4内存、256GB显存，双电源供电。总成本约17000美元，如果去掉两块5090，成本可以压到10000美元左右。 最大的工程挑战是如何把10块显卡塞进一个封闭机箱。矿机架加滚轮的方案首先被否决，不仅丑，而且结构强度存疑。最终选择了Thermaltake Core W200，这是一款双系统机箱，将主板倒置安装在副仓，主仓用来安装显卡和延长线。12个140mm风扇负责散热，GPU温度在负载下保持在正常范围。 实测性能：DeepSeek V3.1 Q2量化版约25 tokens每秒，Qwen 235B Q6量化版约31.5 tokens每秒，Kimi K2 TQ1约19.6 tokens每秒。对于本地运行这个级别的模型来说，这个速度相当可用。 评论区的反应两极分化。 质疑派的火力集中在几个点：功耗问题，10块显卡满载功耗接近4000W，而双电源总额定功率只有2900W；散热问题，从照片看显卡堆叠密集，有人直言这是“火灾隐患”；还有那个“移动”的定义，有人调侃“移动是因为底下有四个小轮子吗”。 务实派则提出了替代方案。一位用户分享了自己用6块AMD MI50搭建的系统，总成本约1600欧元，运行Qwen3 235B Q4量化版可以达到22 tokens每秒，性价比惊人。另一位用户建议直接买Mac Studio M3 Ultra 512GB版本，虽然性能稍逊，但开箱即用、完全静音、功耗只有这台机器的5%。 这场讨论触及了本地AI部署的核心权衡：性能、成本、易用性、可维护性。云端方案省心但有隐私顾虑和持续成本；消费级显卡堆叠性价比高但工程复杂度爆炸；专业级方案如Mac Studio或AMD MI系列各有取舍。 有一条评论说得精辟：理论上2倍的速度提升，在你算上折腾、调试、维护、诊断各种奇怪错误的时间后，可能并不值得。 但对于某些人来说，折腾本身就是目的。 reddit.com/r/LocalLLaMA/comments/1qi4uj2/768gb_fully_enclosed_10x_gpu_mobile_ai_build
今日头条 2026-01-21 00:00:00
6. 同一颗芯片，三种活法：2026迷你AI工作站内卷记
微信公众号 2026-06-02 00:00:00
7. 4800元显卡 AI 工作站畅玩QWEN3.6 35B-A3B
哔哩哔哩 2026-04-28 00:00:00
8. 13w 96G显存打造最强个人工作站 在这个AI需求指数增长、存储宛如黄金的时期，这样一台轻松安装各类环境、满血版大模型部署的生产力主机能满足你的需求吗？ CPU: 270KPlus 主板：华硕ProArt Z890-CREATOR WIFI 机箱：华硕ProArt PA602 水冷：华硕ProArt PA360 显卡：NVIDIA RTX PRO6000 96G 内存：芝奇幻锋戟 256G 硬盘：三星9100Pro 4T 三星990Pro 2T 希捷银河18TB企业级 电源：海韵Prime PX2200W #rtx6000 #AI主机 #生产力主机 #270kplus #ai算力
今日头条 2026-03-31 00:00:00
9. 中小企业本地 AI 工作站部署指南：从硬件选型到落地方案
知乎 2026-06-10 00:00:00
10. 普通人能入手的AI工作站
微信公众号 2026-03-12 00:00:00
11. 本地大模型3090双卡
小红书 2026-04-09 00:00:00
12. 2026年一体化 AI 工作站选购指南：数聚红芯打造高效智算方案
今日头条 2026-05-13 00:00:00
-
本周数码资讯｜影之刃零发售首日0 0
-
性能与能效齐大涨，第六代骁龙8超级至尊版的重点根本不在跑分279 1115 -
手机卡3元保号、单宽带（月租+10元）：全攻略清单73 141 -
绝了，WorkBuddy 积分可以无限白嫖了53 21
已收藏
去我的收藏夹