如果你家里还囤着一盒内存便宜时脑子一抽买的 128G DDR3，现在可以抬头感谢当年的自己。今年 10 月底起火遍本地 AI 圈的开源项目 Strata，玩的正是这个——一条 B 站实测视频干到 27 万播放。哔哩哔哩
它的原理一句话讲完：显存不够，内存来凑。模型权重塞不进 12G 显存就压进大内存，再不够就落 SSD，用到再调回来，8~12G 显存的老卡就能跑起 125B 级模型。翻译成人话：当年按斤卖的机房淘汰卡，突然就成了本地大模型的门票。有人把一张废弃的 V100 16G 重新装进了服务器，哪怕卡太老、安装时各种问题，照样跑起来了。哔哩哔哩小红书
垃圾佬们的快乐清单已经排好了。闲鱼上机房退役的 Tesla 算力卡大批量流出，残值从几百元到几千元。UP 主"ZZ是画渣"给出作业：1400 元出头，X99 平台捡垃圾配 P100 计算卡，Ubuntu 部署 Strata，本地实测 30+ token/s。V100 32G 整机配置约 5647 元，DeepSeek 量化版实测 15.6 token/s。最解气的还是那位囤内存的老哥：128G DDR3 配 16G V100 跑 38 token/s，上下文开到 512K。知乎哔哩哔哩哔哩哔哩哔哩哔哩
行情比群消息跑得还快：V100 拆机卡十月初还按 3000 一张喊价，如今挂到 4500，海外也涨回千美元档。小红书知乎
先别急着下单，三个坑个个真实：
1、出字慢。 UP 主自己都客观标注：P100 的 prefill 速度偏弱，这套方案更适合 Strata 这类项目，对其他大模型兼容性一般。长任务 agent 一跑，首 token 能等到你怀疑人生。哔哩哔哩
2、装机全是雷。 少螺丝、扣具不合、SXM2 转接板对不上位，满载一跑直接蓝屏。想安静用，就得给老卡爆改散热器，闲鱼上这种 4090 转接板加散热的魔改方案，5 万人围观、近 2 千人想要。小红书知乎
3、变现难。 游戏卡用两年还能卖给玩家接盘，专业计算卡和 Tesla 训练卡老了却没什么人收。哔哩哔哩
也有人算过更扎心的账：1400 够买 280 个 Gemini Pro 账号。真正适合上车的就两种人：有隐私需求、内容必须留在本地跑的；以及图一乐，把电子垃圾盘出存在感的——后者的快乐有人验证过：4 颗 V100 装上 NVLink 载板，长提示速度比 M5 Ultra 快 230%、比两台 DGX Spark 快 40%。Strata 没有让捡垃圾更便宜，它让捡回来的电子垃圾长出了全新的用途。哔哩哔哩微博
所以抄配置单之前，先想清楚这机器是拿来干活的，还是拿来听机箱哼哧哼哧响的——用一位 UP 主的话说，本地部署最没劲的就是算回本，能听见机箱在那儿喘，就觉得值了。哔哩哔哩
