旧电脑零成本搭建本地AI服务器

家里淘汰下来的旧台式机，本来准备挂闲鱼几十块处理掉。偶然了解到本地部署AI大模型，不用付费API、不用上传隐私文件，突然有了个想法：用这台吃灰老机器+闲置旧显卡，搭一台家庭AI服务器。

先说硬件底子：主机是i5‑9400，16G内存，显卡是GTX1660 6G，放在平时已经跑不动新3A游戏，日常办公偶尔卡顿，本来已经宣判“退休”。

一开始我担心老显卡显存不够跑大模型，查了资料后发现6G显存可以运行量化后的7B轻量化模型，完全能满足家庭使用。没有额外买新硬件，零成本利用旧设备。

前期踩坑不少：老显卡驱动版本老旧，CUDA环境反复装错，折腾了一整晚才配置好。系统选择Ubuntu，分配硬盘空间，下载量化版大模型，最终顺利跑通。

现在这台旧主机安安静静放在客厅角落7×24小时低负载运行。平时拿来本地文档问答、整理笔记、简单图片生成、家里小孩的学习答疑，所有数据都保存在本地，不用担心文件、聊天记录上传泄露。

当然局限性很明显：受限于1660显卡6G显存，只能跑7B及以下量化模型，推理速度不算快，复杂绘图、超大文本处理会吃力；长时间运行要留意机箱散热，我额外加了两个机箱风扇稳定温度。

对比云服务每月几十块的开销，这套旧机器改造方案一次性投入为零。不用追求高端N卡、专业服务器，普通玩家先用闲置硬件试水本地AI非常划算。

如果你家里也有带独显的旧电脑，别着急卖掉，动手折腾一下，就能拥有属于自己的私人AI服务器。先确认显卡显存、驱动兼容性，再慢慢调试环境，旧机器也能焕发新价值。