还在买成品NAS?手把手教你用旧电脑搭建高性价比AI工作站
坐标2026年中,现在的AI应用门槛其实已经低得可怕了。今天不聊虚的,直接分享一下我最近在家里这套“穷鬼版”AI NAS的部署实录,希望能帮想入门的朋友少走弯路。
【硬件清单:主打一个极致性价比】
● CPU: 二手i5-12500T(带核显,编解码够用,功耗低)
● 显卡: 矿潮退去后的RTX 3060 12G(这是跑本地AI的黄金显存大小,别迷信新卡,性价比才是王道)
● 存储: 4T红盘 x 2(组RAID 1,数据安全第一位)
● 系统: TrueNAS Scale(基于Debian,对Docker和GPU直通的支持比群晖更原生)
【部署过程中的几个“血泪教训”】
1. 关于GPU直通: 这是新手最大的拦路虎。在TrueNAS里直通N卡,一定要记得在启动项里添加 intel_iommu=on 和 video=efifb:off 这两个参数。我第一次就是忘了加后者,导致控制台黑屏,不得不盲打命令修复,吓出一身冷汗。
2. 模型选择别贪大: 很多人上来就想跑70B的大模型,结果显存爆了只能靠内存慢速推理。听我一句劝,对于日常对话和文本处理,量化版的8B或者14B模型(比如Qwen或者Llama的最新版本)响应速度最快,体验最好。
3. 前端界面的重要性: 光有后端Ollama没用,一定要搭配一个好用的WebUI。我现在用的是Open WebUI,界面跟ChatGPT几乎一样,还能直接读取NAS里的PDF文档进行RAG(检索增强生成),这才是NAS+AI的正确打开方式。
【写在最后】 这一套下来成本不到3000块,但拥有了一个24小时在线、不限流、不泄露隐私的超级助理。每次下班回家,看着机柜里闪烁的蓝灯,听着硬盘轻微的读写声,就觉得这周末的折腾值了。


