还在买成品NAS?手把手教你用旧电脑搭建高性价比AI工作站

2026-06-23 13:46:53 0点赞 0收藏 0评论

坐标2026年中,现在的AI应用门槛其实已经低得可怕了。今天不聊虚的,直接分享一下我最近在家里这套“穷鬼版”AI NAS的部署实录,希望能帮想入门的朋友少走弯路。

【硬件清单:主打一个极致性价比】

CPU: 二手i5-12500T(带核显,编解码够用,功耗低)

显卡: 矿潮退去后的RTX 3060 12G(这是跑本地AI的黄金显存大小,别迷信新卡,性价比才是王道)

● 存储: 4T红盘 x 2(组RAID 1,数据安全第一位)

● 系统: TrueNAS Scale(基于Debian,对Docker和GPU直通的支持比群晖更原生)

【部署过程中的几个“血泪教训”】

1. 关于GPU直通: 这是新手最大的拦路虎。在TrueNAS里直通N卡,一定要记得在启动项里添加 intel_iommu=on 和 video=efifb:off 这两个参数。我第一次就是忘了加后者,导致控制台黑屏,不得不盲打命令修复,吓出一身冷汗。

2. 模型选择别贪大: 很多人上来就想跑70B的大模型,结果显存爆了只能靠内存慢速推理。听我一句劝,对于日常对话和文本处理,量化版的8B或者14B模型(比如Qwen或者Llama的最新版本)响应速度最快,体验最好。

3. 前端界面的重要性: 光有后端Ollama没用,一定要搭配一个好用的WebUI。我现在用的是Open WebUI,界面跟ChatGPT几乎一样,还能直接读取NAS里的PDF文档进行RAG(检索增强生成),这才是NAS+AI的正确打开方式。

【写在最后】
这一套下来成本不到3000块,但拥有了一个24小时在线、不限流、不泄露隐私的超级助理。每次下班回家,看着机柜里闪烁的蓝灯,听着硬盘轻微的读写声,就觉得这周末的折腾值了。

还在买成品NAS?手把手教你用旧电脑搭建高性价比AI工作站还在买成品NAS?手把手教你用旧电脑搭建高性价比AI工作站还在买成品NAS?手把手教你用旧电脑搭建高性价比AI工作站
展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松