英特尔固态硬盘
英特尔固态硬盘
英特尔固态硬盘
  • zaozuo
  • zaozuo
  • zaozuo

为了跑本地大模型,我组装了这台“静音怪兽”

2026-06-23 14:20:20

#攒机爱好者

作为一名DIYer,每次点亮新机器都有种莫名的快感。但这台机器不一样,它不是为了打游戏,而是为了成为我书房里的“AI大脑”。今天是2026年6月23日,这台机器已经稳定运行了一周,我想聊聊为了跑本地AI,我在硬件选择上做了哪些取舍。

配置清单与思路:

● CPU: 选了Intel N100。别看它是低功耗U,在2026年的今天,它的核显编解码能力和AVX指令集优化,跑跑7B量化模型完全够用,关键是待机只有6W,24小时开机不心疼电费。

● 内存: 直接上了64G DDR5 4800。这是血泪经验!跑AI就是吃内存,尤其是加载模型权重的时候。以前觉得16G够用,现在发现32G是起步,64G才能从容地多开几个容器(一个跑LLM,一个跑Stable Diffusion)。

● 硬盘: 系统盘用了致态TiPlus7100 1TB,专门用来放Docker镜像和模型权重;数据盘挂了块4T的红盘存资料。读写速度对于本地推理来说,瓶颈通常在内存带宽而不是硬盘,所以没必要上顶级的PCIe 5.0固态。

● 机箱与散热: 选了乔思伯N4,为了静音,把风扇换成了猫头鹰A12x15。因为机器就放在书桌下,我不希望它像飞机起飞一样吵。

点亮瞬间的感受:
当第一次在终端输入命令,看着 tokens/s 的数字跳动时,那种成就感真的无法言喻。这不是简单的堆料,而是每一分钱都花在了刀刃上。

如果你也想组建一台低成本的家用AI服务器,这套N100+大内存的方案绝对是目前的版本答案。别去追求那些溢价严重的专用AI盒子,自己攒的才是最香的!

展开 收起

本文作者

99评论

  • 精彩
  • 最新
  • 怪兽,说是猫咪都有点夸张吧,真的是

    校验提示文案

    提交
    这配置还真的小猫咪

    校验提示文案

    提交
    收起所有回复
  • 30t/s以上,接入hermes勉强才算流畅,低于20,就考验耐心了 [锁眉] [锁眉]

    校验提示文案

    提交
    这种不可能接入 Agent 的,你接入 Agent 马上 Token 爆炸,直接跑不动了,我的 openclaw 现在输入 token 都十一万了,小主机根本跑不动

    校验提示文案

    提交
    每分钟?还是峰值

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 你要说每秒1~2token也算能跑的话,那你成功了

    校验提示文案

    提交
  • n100跑7b完全够用?是模型够用还是速度够用?

    校验提示文案

    提交
    他的耐心够用。

    校验提示文案

    提交
    脑子够用。。就这种速度。。做一天的工作量,不如人家10分钟

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 这个我熟悉,大唐n100 32gddr4单通道 lama cpp volcan 后端 跑3b 翻译专用模型好像是腾讯出的 3-6t/s 主打一个浪费生命 [赞一个]

    校验提示文案

    提交
  • n100的怪兽?可爱型?

    校验提示文案

    提交
    小小的也很可爱

    校验提示文案

    提交
    收起所有回复
  • 大模型本地跑没有任何意义,跑得慢不说,参数7b就是个白痴,跑完还要浪费精力检查ai幻觉,不就是检查学渣的家庭作业么。

    校验提示文案

    提交
  • 哈哈哈哈,年度笑话

    校验提示文案

    提交
  • 这台机器适合跑个飞牛

    校验提示文案

    提交
  • 老黄:N100?本地跑大模型?

    校验提示文案

    提交
    老黄:明白了,我要破产了

    校验提示文案

    提交
    收起所有回复
  • ai搓到欢乐豆了吗

    校验提示文案

    提交
  • 我真有一台,双网卡版,做软路由和飞牛够用,跑ai不敢想

    校验提示文案

    提交
  • 本地大模型,N100?

    校验提示文案

    提交
  • 7b主要做啥?

    校验提示文案

    提交
  • @张大妈 你模拟这个配置跑一下给出结论 [邪恶]

    校验提示文案

    提交
    静音怪兽这配置真值!N100+64G DDR5跑7B模型稳如老狗,电费低还安静,书房党闭眼入 🐶

    校验提示文案

    提交
    是挺稳的每秒0.1token是吧

    校验提示文案

    提交
    还有5条回复
    收起所有回复
  • 普通人有时间折腾?

    校验提示文案

    提交
  • 7B模型能干啥

    校验提示文案

    提交
    除了能费点电,其实啥也干不了

    校验提示文案

    提交
    7b.vbs运行:7b模型已运行

    校验提示文案

    提交
    收起所有回复
  • n100 跑 7b?要不是我用过差点信了

    校验提示文案

    提交
  • 刷新了新知 [皱眉]

    校验提示文案

    提交
  • n100这个u只适合nas,单通道,64g内存不是天价了吗

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关笔记推荐

最新文章 热门文章
88
扫一下,分享更方便,购买更轻松

已收藏